Президент Microsoft призвал регулировать ИИ хотя бы на уровне молока и стиральных машин
Разработчики ИИ-систем пока ничего не говорили на этот счет.
Президент Microsoft Брэд Смит призвал власти всех заинтересованных стран срочно ужесточить требования безопасности для искусственного интеллекта. В интервью BBC Смит заявил, что современные ИИ-системы регулируются слабее стиральных машин и продуктов вроде молока.
Как полагает Смит, разработчиков необходимо обязать сообщать об опасных инцидентах и предупреждать пострадавших о взломах с участием автономных ИИ-агентов. Он также предложил ввести независимую проверку наиболее мощных моделей перед их выпуском.
Сейчас ваша стиральная машина подчиняется большему количеству правил безопасности, чем искусственный интеллект. Каждая упаковка молока, которую вы видите в магазине, подлежит проверкам и соблюдению требований безопасности.
Кроме того, топ-менеджер предлагает обязательно дать людям возможность аварийно отключать ИИ-модели или сервисы при возникновении серьезной угрозы любого рода.
Похожей точки зрения придерживается глава Microsoft Сатья Наделла: недавно он тоже заявил, что ИИ-моделям необходим специальный механизм для аварийного отключения. Главы крупных ИИ-компаний пока не комментировали призывы Смита и Наделлы.
Примечательно, что Microsoft и сама занимается обучением ИИ-моделей и созданием сервисов на их базе. Мы не знаем, соответствуют ли эти сервисы предложениям топ-менеджеров компании.
- Режиссер «Мстителей» назвал последнюю великую кинозвезду Голливуда — это Том Холланд
- Ведьмы, магия и семейные тайны: второй трейлер «Билли и мира магии»
- Самый мощный 7-местный кроссовер в Европе: BYD показала в Париже Atto 8
- 5-метровый гибрид Volkswagen ID. Era 8X вышел в Китае: объявлены цены и характеристики
