Microsoft прописала для ИИ запрет сопротивляться человеку и отключению

Правила пока не окончательные

Опубликованный документ пока остается проектом. Microsoft открыла его для шестинедельного общественного обсуждения и планирует доработать правила перед использованием в разработке моделей, начиная с 2027 года.

Таким образом, компания предлагает заранее встроить управляемость в архитектуру будущего ИИ, а не проверять ее уже после создания системы. Чем более самостоятельной становится модель, тем жестче должны быть определены условия, при которых она может действовать.

В Microsoft подчеркивают, что развитие возможностей ИИ не должно превращаться в передачу ему права самостоятельно определять правила собственной работы.

Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ

Риск гибели человечества от ИИ оценили более чем в 10%

Подписывайтесь и читайте «Науку» в MAX