Экс-сотрудники OpenAI и Google потребовали дать персоналу право говорить о рисках ИИ

• Бывшие и действующие ИИ-специалисты написали открытое письмо с обращением к индустрии.
• Они потребовали разрешить сотрудникам компаний предупреждать общественность об опасности искусственного интеллекта.
• Эксперты требуют, чтобы фирмы перестали преследовать персонал за подобные высказывания. 

Бывшие сотрудники стартапа OpenAI, компании Google DeepMind и ряд других специалистов из сферы ИИ написали открытое письмо представителям индустрии. Они требуют, чтобы фирмы разрешили своему персоналу высказывать опасения относительно технологий на базе искусственного интеллекта.

Подписавшие обращение люди заявляют, что хотя ИИ может принести значительную пользу человечеству, он также несет серьезные риски для всего мира. К таким факторам эксперты отнесли «дальнейшее усиление существующего неравенства, манипуляции и дезинформацию, потерю контроля над автономными системами ИИ». 

По мнению экспертов, компании из этого сегмента часто скрывают информацию о реальных возможностях, ограничениях и степени риска подконтрольных им систем.

При этом они имеют минимальные обязательства перед властями, касательно предоставления данных. Перед гражданским обществом такие фирмы вовсе не отчитываются, подчеркивают авторы письма.

«Пока за этими корпорациями не будет эффективного государственного надзора, нынешние и бывшие сотрудники являются одними из немногих людей, которые могут привлечь их к ответственности перед обществом», — говорится в послании. 

Действующие соглашения о неразглашении запрещают персоналу озвучивать опасения и предупреждать окружающих о потенциальной опасности, отмечают подписавшиеся. По их словам, в случае нарушения этих требований компании занимаются целенаправленным преследованием своих сотрудников.

Авторы письма призвали ИИ-фирмы соблюдать четыре ключевых принципа:

• не опираться на соглашения, ограничивающие право критики, связанной с опасениями в отношении технологий искусственного интеллекта;
• оказывать содействие анонимному процессу, позволяющему сотрудникам сообщить о выявленных рисках;
• поддерживать культуру разумной критики;
• отказаться от преследования персонала в случае разглашения информации об упомянутых рисках ИИ.

Среди лиц, подписавших открытое послание, значатся экс-сотрудники OpenAI Джейкоб Хилтон, Уильям Сондерс, Кэрролл Уэйнрайт и другие. Соавторами письма также выступили бывшие специалисты Google DeepMind Рамана Кумар и Нил Нанда.

Ранее появилась информация, что OpenAI заставляла покидающих компанию сотрудников выбирать между сохранением акций и возможностью выступить против стартапа. 

CEO компании Сэм Альтман подтвердил существование такого пункта. При этом он заявил, что OpenAI «никогда не отбирала принадлежащие кому-то акции и не планирует это делать, если человек не подпишет NDA (или откажется не критиковать стартап)».

Напомним, мы писали, что OpenAI заплатит $250 млн за обучение ИИ на статьях с WSJ.