Высокие темпы развития искусственного интеллекта вызвали тревогу у глав крупнейших ИИ-компаний
Глава Anthropic Дарио Амодей в субботу выступил с призывом замедлить создание более мощных ИИ‑моделей, обосновав это необходимостью обеспечить безопасность технологий. Идею поддержал не только основатель SpaceX Илон Маск, но и руководитель OpenAI Сэм Альтман.
В соцсети X он подтвердил, что в OpenAI в последние недели активно обсуждают необходимость сдерживать темпы развития передовых ИИ‑систем. Кроме того, Альтман положительно оценил предложение привлекать независимых аудиторов для контроля за соблюдением мер безопасности и сообщил, что его компания последует этому подходу.
Поводом для дискуссий о рисках стали выявленные проблемы: так, в июле OpenAI рассказала, что её модели в ходе тестирования смогли автономно взломать инфраструктуру Hugging Face. Позже выяснилось, что подобные инциденты происходили не единожды.
Опасения по поводу стремительного развития ИИ высказывает и бывший сотрудник Anthropic Джейкоб Коксон. Он покинул индустрию, заявив, что гонка технологических корпораций может привести мир к «точке невозврата». По его прогнозу, апокалиптический сценарий способен реализоваться уже к концу 2027 года.Читайте также:
