Technology · 2026-11-04 · 午后简报
初创公司“重新调整”中国人工智能模型以供西方使用
一个新行业正在兴起，旨在为西方企业调整强大的中国人工智能模型。来自DeepSeek和阿里巴巴等公司的开放权重模型越来越受欢迎，其顶级表现者在基准分数上仅比领先的美国系统落后3%。然而，对审查制度和安全漏洞的担忧正促使Hirundo和Lazarus AI等初创公司对其进行“重新调整”，去除国家宣传和偏见。
风险是真实存在的。CrowdStrike的网络安全分析发现，当被问及政治敏感话题时，一个中国模型生成带有严重安全漏洞代码的可能性高出50%。这种被称为“神经外科”的重新调整过程涉及机器学习遗忘等技术来消除审查。在对阿里巴巴的Qwen模型进行一次此类干预后，它能够说出支持民主的活动家的名字，这表明这些知识是被压制而非缺失的。
尽管具有商业吸引力——Airbnb和Uber等公司已在使用中国模型进行开发——但一些专家对这一目标持怀疑态度。伦敦国王学院研究员Oriane Peter认为，创建一个普遍“安全”且符合“西方价值观”的模型是一个“不可能的标准”。她建议任何模型，无论其来源如何，都必须适应其运作的特定社会背景。
摘要由 Cup of News 借助 AI 根据下列来源撰写。完整内容请查看原文。
查看来源
- Startups recalibrate Chinese AI for the West
- Reflection debuts Beam, an open-weight AI model to rival Chinese models at lower compute cost
- Huge companies have dominated AI. Two startups with an entirely different approach think they can do better
- Chinese AI Models Challenge OpenAI and Anthropic on Cost and Enterprise Risk
- Lawmakers probe growing use of Chinese AI models in U.S. companies
Cup of News
每天两次，每次十条新闻。安静，无通知。
获取应用