Anthropic Accuses Chinese AI Firms of Mass Data Theft via Fake Accounts

Thumbnail Image

The information displayed in the AIM should not be reported as representing the official views of the OECD or of its member countries.

US AI company Anthropic accused Chinese firms DeepSeek, Moonshot AI, and MiniMax of creating over 24,000 fake accounts to extract data from its Claude chatbot. The data, obtained through over 16 million interactions, was allegedly used to train competing AI models, violating Anthropic's terms and raising intellectual property and security concerns.[AI generated]

Why's our monitor labelling this an incident or hazard?

The event involves the use of an AI system (Claude) and the alleged misuse of its outputs by other AI firms to train their own models without authorization. This constitutes a violation of intellectual property rights and legal obligations related to AI development and use. Since the harm (violation of rights) has already occurred through unauthorized access and use, this qualifies as an AI Incident under the framework.[AI generated]
AI principles
Privacy & data governanceRobustness & digital security
Industries
Digital security
Affected stakeholders
Business
Harm types
Economic/Property
Business function:
Citizen/customer service
AI system task:
Interaction support/chatbotsContent generation
In other databases
Open in  AIID Logo

Articles about this incident or hazard

Deep Steal

2026-02-24
The Times of India

智通财经APP获悉，据知情人士透露，如果Anthropic未能在周五前遵守政府条款，五角大楼威胁将援引一项冷战时期法律，强制该人工智能(AI)初创公司允许美军使用其技术。知情人士表示，在周二Anthropic首席执行官达里奥・阿莫迪(Dario Amodei)与美国国防部长海格塞斯(Pete Hegseth)的会面中，美方官员列出了一系列后果，包括威胁将Anthropic认定为供应链风险，并援引《国防生产法》(Defense Production Act)，即便公司不同意，也将动用其AI软件。这一最后通牒标志着美国国防部与这家AI初创公司之间不断升级的争端。争议焦点在于，Anthropic坚持为其Claude AI工具设置使用护栏，而军方认为这些限制没有必要。如果五角大楼真的采取行动，将危及Anthropic为军方承接的高达2亿美元的项目合同。据其中一位知情人士称，在会谈中，阿莫迪阐述了Anthropic的条件：美军不得使用其产品进行对敌方作战人员的自主打击，也不得对美国公民进行大规模监控。该人士表示，阿莫迪强调，这些情景尚未在实际行动中发生。Anthropic在会后声明中表示："我们就使用政策持续进行了善意沟通，以确保Anthropic能够在符合模型可靠且负责任能力范围内，继续支持政府的国家安全使命。"根据最新一轮融资估值，Anthropic目前估值约为3800亿美元。该公司是首家获准在美国政府内部处理机密材料的AI企业，其Claude Gov工具因操作简便迅速成为五角大楼官员青睐的选择之一。然而，在国家安全领域，它正面临来自埃隆・马斯克旗下xAI(刚刚获得机密业务许可)以及OpenAI和谷歌Gemini等对手日益激烈的竞争。双方的这场争端爆发于五角大楼发布新AI战略数周之后。该战略呼吁通过增加对前沿模型的实验和减少使用方面的官僚障碍，使军队成为"AI优先"的力量。该战略特别敦促国防部选择"没有使用政策限制、不会妨碍合法军事应用"的模型。一位美国官员表示，五角大楼在得知Anthropic曾对今年1月初强行抓捕委内瑞拉总统马杜罗的特种部队行动中AI使用情况提出疑问后，对其是否支持美国目标产生担忧。Anthropic则对五角大楼关于其质疑抓捕行动的说法提出不同解读。Anthropic周一通过发言人表示："Anthropic未曾与国防部讨论Claude在具体行动中的使用。我们也未与任何行业合作伙伴讨论此事，或表达担忧，除非是在严格技术层面的常规交流中。"Anthropic将自身定位为一家专注于AI负责任使用的公司，目标是避免该技术带来灾难性后果。该公司专门为美国国家安全目的打造了Claude Gov，并力求在自身伦理边界内为政府客户提供服务。针对Anthropic对其技术可能被用于大规模监控和自主打击的担忧，五角大楼官员坚持表示，国防部遵循法律，并始终有人类参与决策。如果五角大楼将Anthropic认定为供应链风险，其产品将被其他军方供应商禁止使用。这些公司随后必须核实其未使用Anthropic的产品。此外，根据1950年的《国防生产法》，政府可以基于国家安全理由，强制美国公司提供所需产品或服务。历任总统曾利用该法保障能源供应，包括在20世纪60年代强制翻修油轮，以及在70年代将已签约的石油转供军方。

2026-02-24
证券之星

0

2026-02-24
developpez.net

2026-02-24
next.ink