Премьер-министр Британии Риши Сунак призывает страны обозначить искусственный интеллект как способный нанести «катастрофический вред», пишет Bloomberg. Ожидается, что его объявление будет сделано на саммите по безопасности искусственного интеллекта, который Великобритания проведет в следующем месяце.
Страна стремится выработать общий международный подход к быстро развивающимся технологиям. Великобритания хочет, чтобы страны подписали совместную позицию, в которой излагаются особые опасения по поводу влияния ИИ на кибербезопасность и биотехнологии, согласно проекту коммюнике, распространенному среди участников и просмотренному агентство. Чиновники намерены выработать окончательную формулировку коммюнике к 25 октября, говорится в отдельном документе.
«Существует вероятность значительного, даже катастрофического ущерба, как преднамеренного, так и непреднамеренного, вытекающего из наиболее опасных возможностей ИИ», — говорится в проекте от 16 октября. В нем также подчеркиваются «преобразующие возможности» ИИ, особенно в сфере государственных услуг, таких как здравоохранение, образование, наука и чистая энергетика.
В документ все еще могут вноситься изменения, хотя администрация Сунака близка к выпуску окончательной версии, сообщил человек, попросивший не называть его имени при обсуждении информации, которая еще не была обнародована. Согласно документу, мировые лидеры также намерены призвать к повышению прозрачности компаний, разрабатывающих технологии искусственного интеллекта, и сосредоточатся на создании «четких показателей оценки, инструментов для тестирования безопасности, а также развитии соответствующих возможностей государственного сектора и научных исследований».
«Особые риски безопасности возникают на «границе» ИИ общего назначения, а также в некоторых случаях конкретного узкого ИИ, который может проявлять опасные возможности, — говорится в проекте. - Наиболее значительные из этих рисков возникают из-за потенциального преднамеренного неправильного использования или проблем контроля, когда системы ИИ могут стремиться увеличить свое влияние и уменьшить контроль со стороны человека, и проблемы отчасти связаны с тем, что эти возможности не полностью поняты».
Комментарии