Маск и эксперты призывают к паузе в обучении ИИ

Илон Маск вместе с группой экспертов призывают к шестимесячной паузе в обучении систем искусственного интеллекта, следует из их открытого письма, в котором говорится, что системы с интеллектом, сопоставимым с человеческим, могут представлять серьезную опасность для общества и человечества. 

«…продвинутый ИИ может стать глубоким изменением в истории жизни на Земле и должен быть спланирован и управляться с соответствующим вниманием и ресурсами. К сожалению, такого планирования и управления не происходит несмотря на то, что в последние месяцы лаборатории ИИ вступили в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать», - поясняется в письме.

Ранее в этом месяце OpenAI, поддерживаемая Microsoft, представила новую версию языковой модели с генеративным искусственным интеллектом GPT-4 в марте 2023 года. На базе этой модели работает многозадачный чат-бот ChatGPT, который демонстрирует производительность на уровне человека в различных профессиональных и академических тестах и способен отвечать почти на любые вопросы пользователей и писать тексты по заданию. 

Исполнительный директор OpenAI Сэм Альтман не подписал письмо, сообщил Reuters представитель Future of Life Institute. При этом сама OpenAI недавно заявила, что, прежде чем приступать к обучению будущих систем, следует согласиться ограничить скорость вычислений, используемых для создания новых моделей.

«Письмо не идеально, но суть верна: нам нужно притормозить, пока мы лучше не поймем последствия», — объяснил Reuters профессор Нью-Йоркского университета Гэри Маркус, также его подписавший. Он признал, что крупные игроки в сфере искусственного интеллекта становятся все более скрытными в отношении того, что они делают, «это осложняет защиту общества от вреда, который может материализоваться».

“Финам” разрабатывает AI-скринер акций, который на основе прогнозов финансовых показателей и доходности инвестиций в акции компаний позволяет инвесторам принять осознанные и, пока, самостоятельные решения по выбору объектов инвестирования.