Китайские модели догоняют. Anthropic предъявляет обвинения

У Anthropic, по моим ощущениям, новые исследования выходят почти каждый день. Только обсуждали влияние ИИ на рынок труда, теперь появился большой отчёт о злоупотреблениях Claude. Тут уже кибератаки, слежка, мошенничество и отдельный сюжет про китайские модели.

Anthropic обвиняет семь китайских лабораторий, включая Alibaba, DeepSeek, Moonshot и Xiaomi, в промышленном сборе ответов Claude для обучения собственных моделей. Такой перенос возможностей называют дистилляцией: сильная модель решает задачи, а её ответы становятся учебным материалом для другой.

Только Alibaba компания приписывает более 151 миллиона взаимодействий за май–июль. Это данные расследования самой Anthropic, которая одновременно является конкурентом обвиняемых компаний.

В случаях Kimi и DeepSeek обвинения ещё серьёзнее: по версии Anthropic, часть пользовательских запросов тайно отправлялась в Claude, а его ответы возвращались клиентам. Вместе с запросами уходили внутренние документы и другие чувствительные данные. Пользователь выбирал один сервис, а информация оказывалась у другого.

Остальной отчёт показывает, как ИИ встраивают в целые операции. Он помогает писать инструменты для атак, собирать досье, обслуживать сети фальшивых аккаунтов. При этом есть существенные оговорки: многие информационные кампании почти не получили аудитории, а в биологических кейсах авторы прямо не утверждают злого умысла исследователей.

И всё это на фоне ухода исследователя Джейкоба Коксона из Anthropic. Он публично обвинил ведущие лаборатории в безответственной гонке к самоулучшающемуся суперинтеллекту и призвал изменить условия этой гонки. Это его оценка будущего, отдельная от расследований конкретных злоупотреблений.

Жути вокруг ИИ сейчас действительно хватает.

Китайские модели наступают на пятки мейджорам, и дальше противостояние будет только усиливаться. Сам отчёт не измеряет, кто кого догнал. Зато хорошо показывает, насколько острым стал конфликт вокруг доступа к технологиям и способов обучения моделей.

В этой истории одновременно есть реальные риски и коммерческие интересы. Поэтому читать такие отчёты полезно внимательно: где обнаруженная операция, где предположение исследователя, а где компания защищает своё преимущество.

Для тех, кто использует ИИ в работе, здесь есть вполне приземлённый вопрос: кто на самом деле получает ваши данные и отвечает на ваши запросы?

Следующий шаг

DeepSeek — линейка открытых моделей и API

Связанные материалы

Статья: Что Дарио Амодеи сказал Financial Times — пересказ интервью главы Anthropic

Блог: Исследователь Anthropic, Codex и скандал вокруг научного открытия

База знаний: Anthropic Claude — линейка моделей и API

Если вы выбираете ИИ для рабочих задач, можно обсудить, как оценивать провайдера и учитывать передачу данных через посредников.

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov