По решению правительства США будет приостановлена работа самых мощных на данный момент моделей искусственного интеллекта — Fable 5 и Mythos 5 компании Anthropic. Это беспрецедентный случай, когда ведущие ИИ-модели фактически вытесняются с рынка по решению государства.
Всего два месяца назад Anthropic представила Mythos — модель, которая на сегодняшний день считается одной из самых мощных и эффективных в сфере искусственного интеллекта. Однако, поскольку её возможности оказались чрезвычайно высокими и она могла выявлять неизвестные уязвимости в защищённых электронных инфраструктурах, компания не стала открывать к ней широкий доступ. Вместо этого модель была предоставлена крупным корпорациям для обнаружения и устранения слабых мест в их инфраструктуре.
Для массового использования Anthropic разработала Fable 5 — более слабую и предсказуемую версию — и несколько дней назад представила её пользователям. Однако выяснилось, что даже эта «облегчённая» модель, по мнению правительства США, несёт серьёзные риски, в связи с чем её широкое использование должно быть приостановлено.
Наиболее иронично то, что буквально накануне инженеры Anthropic опубликовали объёмную статью, в которой отмечали, что темпы развития искусственного интеллекта продолжают ускоряться и в ближайшем будущем может возникнуть проблема утраты контроля над такими системами. Авторы статьи пришли к выводу, что дальнейшее развитие ИИ следует эффективно замедлить. Похоже, правительство США «услышало» архитекторов Anthropic и приостановило работу именно их передовых моделей.
