Глава Microsoft призвал оснастить продвинутый ИИ «аварийным тормозом»

Глава Microsoft Сатья Наделла предложил внедрять в системы искусственного интеллекта (ИИ) механизмы сдерживания и независимого контроля. По его мнению, у уполномоченных специалистов должна быть возможность приостанавливать работу модели или полностью отключать ее прямо во время выполнения задачи.

Наделла также обозначил принципы безопасной разработки ИИ: возможность отслеживать действия системы, постоянное тестирование, проверяемость решений, независимый аудит, ограничение работы и раскрытие информации об инцидентах. Он считает, что модели с открытыми и закрытыми весами следует рассматривать как потенциальный внутренний риск.

Заявление прозвучало на фоне дискуссий о безопасности быстро развивающихся технологий. Некоторые руководители технологических компаний и исследователи предупреждают о недостаточности существующих мер защиты. При этом президент США Дональд Трамп ранее делал акцент на необходимости сохранять лидерство в сфере ИИ в конкуренции с Китаем.