Маск и еще более 1000 экспертов призвали запретить обучать ИИ

Илон Маск вместе с более чем 1000 экспертов в области искусственного интеллекта (ИИ) потребовал ввести мораторий на обучение мощных нейросетей, так как неконтролируемый процесс в этой области может представлять угрозу для человечества, сообщает ТАСС со ссылкой на открытое письмо экспертов в области ИИ, опубликованное 22 марта на сайте некоммерческой организации Future of Life Institute ("Институт будущего жизни").

"Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4. Об этом перерыве необходимо объявить публично, его исполнение должны быть проверяемым и охватывать всех ключевых участников отрасли. Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий", - такой призыв содержится в письме.

Специалисты в области искусственного интеллекта полагают, что лаборатории ИИ и независимые эксперты должны в обязательном порядке использовать эту "передышку" для совместной разработки и внедрения набора общих протоколов безопасности. Такие меры требуются для проектирования и разработки передовых систем ИИ, которые возможно будет проверять и контролировать независимыми внешними экспертами.

В дополнение к техническим моментам, ученые предлагают изменение в политической сфере. В частности, они призывают создать новые регулирующие органы, занимающиеся вопросами искусственного интеллекта, а также системы контроля на государственном уровне, которые могли бы обеспечить безопасность новых систем.