OpenAI начал обучение «передовой модели» и создал Комитет по безопасности ИИ

Компания не говорит, идет ли речь про GPT-5.

Стартап OpenAI начал обучение «следующей передовой модели», сообщается в пресс-релизе компании. В OpenAI ожидают, что новая модель станет шагом на пути к сильному искусственному интеллекту.

Одновременно компания объявила о создании Комитета по безопасности. По всей видимости, он частично заменит распущенную команду, занимавшуюся супералайментом и придумывавшую меры контроля для ИИ сверхчеловеческого уровня.

В Комитет по безопасности вошел руководитель OpenAI Сэм Альтман и еще несколько топ-менеджеров. Задача Комитета — выдавать совету директоров OpenAI рекомендации в области безопасности. Интересный момент: рекомендации Комитета со временем станут публичными.

Примечательно, что супералаймент-команда OpenAI целиком состояла из исследователей, а не из менеджеров. Пока не вполне ясно, насколько эффективным окажется Комитет по безопасности.

Впрочем, в OpenAI обещают, что в собраниях Комитета будут участвовать сотрудники, имеющие отношение к безопасности ИИ: например, глава отдела алаймента Джон Шульман. Также планируется консультироваться с внешними экспертами.

В заявлении OpenAI не уточняется, когда может быть выпущена новая большая языковая модель компании. Некоторые источники считают, что условная GPT-5 появится в начале 2025 года.