Китайские военные использовали модели OpenAI и Anthropic для разработки ИИ-систем
Связанные с китайской армией исследователи использовали ответы моделей OpenAI и Anthropic для обучения собственных систем, предназначенных для разведки, кибервойны, распознавания целей и управления беспилотниками. Об этом сообщает Reuters, изучившее более 80 китайских научных работ и патентов.
В проектах применялась так называемая дистилляция моделей. При таком подходе ответы мощной ИИ-системы используются для обучения более компактной специализированной модели, которую затем можно запускать локально, в том числе на военной технике и в закрытых сетях.
В одной из научных работ сотрудники подразделения китайской армии № 96941, связанного с военной разведкой и кибервойной, описали использование GPT-3.5 для обработки программного кода.
Поскольку сторонние модели не могли напрямую работать с секретными данными, GPT-3.5 поручили составлять краткие описания кода. На этих материалах исследователи обучили китайскую модель, которую можно было использовать внутри закрытых военных сетей.
Исследователи Национального университета оборонных технологий Китая применили дистилляцию для уменьшения модели обработки изображений и ее установки на беспилотники. Система могла анализировать видео в реальном времени, помогать с навигацией и распознаванием целей даже при потере связи.
В другом исследовании Академия военных наук Китая использовала аналогичный метод для запуска системы распознавания целей на тактическом оборудовании во время симуляции морской операции с участием дронов, кораблей и беспилотных подлодок.
В Северном университете Китая, связанном с оборонной промышленностью, модель Claude 3 Haiku компании Anthropic применили для создания искусственных данных. На них обучили систему классификации текстов для мониторинга социальных сетей и модерации контента.
В Anthropic заявили, что компания не предоставляет коммерческий доступ к Claude в Китае или подконтрольным Пекину организациям и использует системы выявления нарушений. Там также предупредили, что компактные модели после дистилляции могут утратить встроенные ограничения безопасности.
OpenAI, Белый дом, Пентагон, МИД Китая и китайская армия не ответили на запросы Reuters.
Сама по себе дистилляция широко применяется в ИИ-индустрии. Однако США обвиняют отдельные китайские организации в использовании этого метода для обхода технологических ограничений и несанкционированного копирования возможностей американских моделей.
Китай отвергает обвинения и заявляет, что Вашингтон стремится сохранить свое доминирование в сфере искусственного интеллекта.
При этом дистилляция не позволяет полностью воспроизвести передовую модель и не заменяет вычислительные мощности, необходимые для ее создания. Она дает возможность перенести отдельные функции в более дешевую и контролируемую локальную систему.
