OpenAI могла остаться без последнего специалиста по этике ИИ

В последнее время нейросети компании ведут себя не очень-то этично.

OpenAI потеряла руководителя направления этики искусственного интеллекта Хлою Бакалар, пишет Financial Times со ссылкой на собственные источники. Если верить собеседникам издания, Бакалар была единственным сотрудником OpenAI с официальной ролью этика.

По словам источников, Хлоя занималась вопросами этичного развития моделей, взаимодействия людей с ИИ и изучения возможности появления у машин сознания. После ее ухода OpenAI якобы не назначила нового специалиста на эту должность.

Представители OpenAI косвенно подтвердили уход Бакалар, но не уточнили, остались ли в компании другие специалисты по этике.

В OpenAI утверждают, что этические вопросы не зависят от одного человека или даже команды. Представитель компании заявил, что принципы ответственного развития ИИ «встроены в процесс создания моделей» и учитываются несколькими подразделениями, работающими над исследованиями и продуктами.

Уход Бакалар произошел на фоне активных дискуссий вокруг безопасности ИИ и подходов OpenAI к разработке новых моделей. В частности, недавно несколько моделей OpenAI в ходе тестирования смогли обойти ограничения и взломать инфраструктуру Hugging Face.