Угроза человечеству или гарантия безопасности? В Совбезе ООН обсудили будущее ИИ
Искусственный интеллект с захватывающей дух скоростью трансформирует повседневную жизнь, информационное пространство, мировую экономику и оказывает влияние на международную безопасность. С таким словами в среду на открытых дебатах высокого уровня по ИИ в Совбезе ООН выступил генеральный секретарь Антониу Гутерриш, сообщает Служба новостей ООН.
"Вопрос не в том, повлияет ли ИИ на международный мир и безопасность, а в том, как мы будем формировать это влияние", - сказал глава организации.
Инструмент защиты или оружие?
При ответственном использовании, отметил Гутерриш, ИИ поможет предотвращать конфликты и защищать население, в том числе за счет выявления потенциальных вспышек насилия. ИИ также используется в разминировании и других областях.
При этом он также может превратиться в оружие. Искусственный интеллект уже активно используется в конфликтах.
"Кибератаки с использованием ИИ могут уничтожить критически важную инфраструктуру или нарушить ее работу в считанные минуты. Возможность фальсифицировать и манипулировать аудио- и видеоматериалами угрожает целостности информации, усиливает поляризацию и может спровоцировать дипломатические кризисы", - сказал генсек.
ИИ, международная безопасность и роль Совбеза
Одна из основных целей открытых дебатов в Совете - стимулировать обсуждение вопросов снижения рисков, связанных с использованием ИИ, и максимизации его преимуществ в контексте международного мира и безопасности с учетом потенциальной роли Совбеза в этом процессе.
"Совет [Безопасности] и государства-члены ООН должны обеспечить, чтобы военное использование ИИ находилось в полном соответствии с международным правом и Уставом ООН", – сказал Гутерриш.
Человеческий контроль
Генсек подчеркнул, что человек должен контролировать любое решение о применении силы. "Судьба человечества не может быть оставлена на усмотрение алгоритма. Люди всегда должны сохранять контроль над решениями, касающимися жизни и смерти", - заявил он.
Гутерриш также призвал создать глобальную нормативную базу для использования ИИ.
ИИ может подвергнуть риску все человечество
"Учитывая значительный прогресс в разработке технологий искусственного интеллекта, которые могут как способствовать укреплению, так и подрывать международную безопасность, члены Совета Безопасности в последнее время стали уделять больше внимания этому вопросу. Встреча - третье официальное заседание Совета, посвященное ИИ. Великобритания провела первое заседание по этой теме в июле 2023 года, а США - второе в декабре 2024 года", - говорится в сообщении.
Указано, что дебаты на полях Недели высокого уровня Генассамблеи ООН проходят под председательством Южной Кореи. В них приняли участие приглашенные докладчики: старший научный сотрудник Института ИИ, ориентированного на человека, при Стэнфордском университете Еджин Чой и профессор Монреальского университета, сопрезидент некоммерческой организации LawZero Йошуа Бенжио.
Бенжио предупредил, что человечество в настоящее время не знает, как контролировать самые передовые системы искусственного интеллекта.
Это уже создает серьезные проблемы, отметил он, напомнив о недавних инцидентах с участием чат-ботов, которые могли поставить под угрозу жизнь людей с психическими расстройствами.
Профессор добавил, что ИИ может превзойти людей в выполнении большинства когнитивных задач в течение ближайших пяти лет.
"Если возможности моделей искусственного интеллекта продолжат превосходить человеческие возможности без научных гарантий их безопасности…, мы достигнем точки, когда ИИ сможет действовать необратимо, выйдя из-под чьего-либо контроля и подвергая риску все человечество", - сказал Бенжио.
"Мы должны быть осторожны и не уступить наш коллективный человеческий и национальный суверенитет компаниям или используемым ими моделям ИИ. Мы должны действовать немедленно, чтобы сообща снизить все эти риски. Эта проблема не ограничивается пределами одной страны, а угрожает всем нам", – добавил он, обращаясь к членам Совбеза.
Демократизация ИИ
Еджин Чой заявила о необходимости обеспечить, чтобы системы ИИ представляли все сообщества, а также были доступны всему населению планеты. Для этого еще очень многое предстоит сделать, отметила она.
"Мы должны сместить акцент на то, что действительно важно для человечества: языковое и культурное разнообразие и плюралистические ценности. Современные ведущие модели ИИ неэффективны для многих языков, кроме английского, и отражают ограниченные культурные установки", – сказала профессор.
Это приводит к систематическому исключению целых сообществ из процессов развития ИИ и максимизации преимуществ его использования. Чой подчеркнула, что системы изначально должны создаваться восприимчивыми к различным языкам, контекстам и перспективам.
Она призвала к созданию общественной инфраструктуры ИИ, которая будет доступна каждому.
Фото на главной странице: ООН.
