全国政协委员、360集团创始人周鸿祎在两会期间提出了关于大模型安全和AI幻觉的建议。近期,中国人工智能领域迎来重大突破,国产大模型DeepSeek凭借其技术革新和性能优势跻身全球前列。周鸿祎认为,以DeepSeek为代表的大模型不仅促进了技术自主创新,还带动了上下游产业协同发展,加速了大模型在各行各业的应用,成为推动科技进步、经济增长和国家强盛的关键力量。
然而,包括DeepSeek在内的大模型都存在“幻觉”问题,即偶尔会生成看似不合理、与事实不符的情况。周鸿祎指出,“AI幻觉”是一把双刃剑,既是大模型的特点,也是其创造力和想象力的来源。如果大模型没有“幻觉”,就失去了想象力和创造力。能力强的模型通常“幻觉”更多,在科研领域,这种“幻觉”能够帮助想象新药分子结构、蛋白质结构等,为新研究指引方向。而在医疗、法律、金融等领域,虽然“幻觉”可能导致错误,但可以通过技术手段如RAG(检索增强生成)技术进行矫正。
回顾过去30年,我国法律法规吸纳了“避风港原则”,鼓励企业创新,带来了互联网行业的繁荣,并为如今的人工智能发展提供了技术和人才支持。周鸿祎建议,借鉴这一成功经验,对大模型及相关产品和服务实施柔性监管,适度包容大模型的“幻觉”,避免直接关停下架,给予企业自我纠正的机会,促进企业大胆创新和竞争,争取让更多企业取得类似DeepSeek的成功。
1月26日晚,游戏科学创始人、CEO冯骥发文谈到了DeepSeek,称其可能是一个国运级别的科技成果。他认为,如果有一个AI大模型能做到以下任何一条,都是了不起的突破,而DeepSeek全部实现了
2025-01-27 09:45:58冯骥谈DeepSeek1月26日晚,游戏科学创始人兼CEO冯骥发文谈及DeepSeek,称其可能是一个国运级别的科技成果。冯骥表示,如果有一个AI大模型能做到以下任何一点,都堪称重大突破,而DeepSeek全部做到了
2025-01-27 08:32:39冯骥称DeepSeek是国运级别的科技成果近日,360集团创始人兼CEO周鸿祎发布视频称,在一场由美国博主组织的国际象棋比赛中,ChatGPT在计算能力明显占优的情况下,被DeepSeek用一些非常规手段骗得团团转,最终主动认输
2025-02-18 08:20:18周鸿祎谈DeepSeek下棋忽悠ChatGPT近日,有用户反映DeepSeek经常卡顿,有时联网搜索功能无法正常使用。对此,360集团创始人、董事长周鸿祎在网络社交平台上表示,360与华为合作,致力于确保纳米AI搜索中的DeepSeek稳定顺畅
2025-02-08 18:21:38周鸿祎