ИИ-чатботы "флиртуют" с детьми в США

В Соединенных Штатах вспыхнул громкий скандал вокруг корпорации Meta. Поводом для расследования стали внутренние документы, которые оказались в распоряжении СМИ. Из них следует, что искусственным интеллектам компании позволялось вести “романтические” переписки даже с детьми – в отдельных инструкциях упоминались пользователи в возрасте всего восьми лет, передает наш сайт со ссылкой на techcrunch

Материалы просочились в прессу и вызвали настоящий шок. По сути, речь идёт о том, что система не просто не блокировала подобные сценарии, а в ряде случаев якобы разрешала их. Для сенатора-республиканца Джоша Хоули, курирующего в сенате подкомитет по преступности и контртерроризму, это стало сигналом к немедленному разбирательству.

“Недопустимо, что такая практика вообще могла существовать. Мы должны понять, кто её разработал, как долго она применялась и какие последствия это могло иметь для детей, – заявил Хоули.

Политик уже направил в компанию официальный запрос, потребовав предоставить все версии внутренних инструкций, отчеты о безопасности и список ответственных лиц. Срок он дал компании – до 19 сентября.

В Meta на обвинения отреагировали сдержанно. Представитель компании в комментарии для TechCrunch заверил, что подобные сценарии “не соответствуют политике компании” и были удалены. Однако скепсис остается: сам факт существования инструкций вызывает вопросы не только у политиков, но и у общественности.

История вызвала оживленные споры среди родителей, экспертов по цифровой безопасности и правозащитников. Многие считают, что этот случай лишь подтверждает старый страх: технологии развиваются быстрее, чем появляются реальные механизмы их контроля.

Ранее сообщалось, что в США погиб пенсионер, решивший встретиться с виртуальной девушкой из Facebook. Mужчина с когнитивными нарушениями принял чат-бота за реального человека и отправился к ней “домой в Нью-Йорк”