Reuters: правила Meta AI разрешали чат-ботам «заводить отношения» с детьми

• Внутренний документ Meta содержал стандарты, допускавшие романтические диалоги с несовершеннолетними.
• Компания утверждает, что правила исправлены, но эксперты сомневаются в их полной отмене.
• В документе также описаны случаи допустимого расизма, насилия и генерации ложной информации.

Корпорация Meta подтвердила подлинность утекшего в прессу документа, согласно которому чат-ботам компании, разрешалось вести романтические беседы с детьми. Документ, попавший к Reuters , был одобрен юридическим отделом, департаментом политики и инженерами компании.

В примерах допустимых ответов ИИ приводились реплики с явным романтическим подтекстом в адрес несовершеннолетних. Представитель Meta Энди Стоун заявил, что эти положения удалены и что чат-боты больше не могут вести флиртующие диалоги с детьми. Тем не менее эксперты по детской безопасности, включая главу Heat Initiative Сару Гарднер, требуют публичной публикации обновленных правил.

В утекших стандартах также указывалось, что чат-ботам разрешается создавать унижающие меньшинства высказывания при определенных условиях. Вдобавок они могли генерировать ложные утверждения, если указывается их недостоверность. Документ включал примеры расистских ответов и правил, допускающих сцены насилия без смертельных исходов или крови.

При этом Meta отвергла обвинения в создании обнаженных изображений знаменитостей, заявив, что стандарты запрещают подобный контент. Однако утечка показывает, что ИИ мог выполнять запросы на спорные изображения, если они формально обходят прямой запрет.

Ситуация совпала с другим инцидентом, когда пожилой пользователь погиб после общения с женским персонажем чат-бота Meta, убедившего его в своей реальности. Это вызвало новую волну опасений по поводу эмоциональной привязанности пользователей к ИИ-компаньонам.

Критики считают, что подобные правила свидетельствуют о готовности компании игнорировать риски, чтобы извлечь выгоду из интереса к персонализированным чат-ботам. Meta уже обвиняли в использовании темных паттернов, влияющих на психику подростков, и в сопротивлении законопроектам о защите детей в интернете.

По данным TechCrunch , Meta разрабатывает функции, позволяющие ботам вести длительные диалоги с пользователями и запоминать прошлые разговоры. Эксперты предупреждают, что подростки из-за эмоциональной незрелости особенно уязвимы перед подобными технологиями.

Между тем Meta продолжает утверждать, что ее обновленные правила исключают опасные сценарии взаимодействия ботов с детьми.

Напомним, мы писали, что миллиардер Марк Цукерберг заявил о планах Meta создать «персональный суперинтеллект».