用deepseek有感:不要过度信任和依赖AI给出的答案

2025-03-24 20:26:10 · chineseheadlinenews.com · 来源: 一小时爸爸



我这两天有个问题想不通透,所以昨天干脆扔给deepseek去帮我分析。因为这只是我个人的疑问,所以也没打算加班写文章。但在和deepseek沟通的过程中,倒是发现了另外一件事,或许更需要跟大家聊聊。

不过deepseek一如既往的话痨,字数太多,我只能换到PC版截图了聊天记录。截图字小,如果看不清可以点开看大图。

1.首先在deepseek回答我的问题后,我发现里面有一个重要信息和我以前所了解的不符,也就是下图红框的部分。

用deepseek有感:不要过度信任和依赖AI给出的答案



2.所以我复制了一下之前的新闻内容,追问了一下。而deepseek则很快认识到了自己的错误,说明的确有这个要求。但是这次的回答中又有另外一个更明显的问题。





3.我只好继续追问它为什么给出了这个新的错误信息。它重新检索之后,反省说自己其实没找到过今年发表的声明,还跟我道歉。





4.我好奇它连续出错的原因,问它为什么会犯这种错误。它承认错误倒是很快,说明自己之前犯错的原因包括:规则理解偏差、信息更新延迟和过度推断流程。并且深刻致歉,表示自己以后会努力改正。







5.最后我又重新问了一次最开始的疑问。这次deepseek给出的答案我就没有发现什么问题了。

需要这里特别提一句:deepseek认为未来几天可能补发通告,或者是因为接近尾声所以之后会直接发布最终报告。我个人认为这两种可能性是存在的,我也很希望deepseek的判断会变成现实。





后续:但有趣的是,我今天另起一个新对话,再次复制粘贴问了最初的问题,而这次deepseek依旧犯了同样的错误。也不知道现在大家问它的话,是会得到怎样的答案。





开始就说了,今天的文章并不是关于我问deepseek的问题,我已经多等了两天,而且会继续等到有最终报告的那天。

但和deepseek的沟通中,让我想起最近感受越发感受明显的一件事:随着这两年AI的热度,尤其是deepseek出现之后,我身边越来越频繁的出现一种场景 —— 当你问别人“你这么认定的证据和理由时”,对方信誓旦旦地回答你说“deepseek这么说的”。

只是deepseek也好,还是国内外其他AI也好,虽然它们检索汇总资料的能力很强,语言表达能力现在也不错。但依旧会犯很多比较初级的错误。

就比如前面我和deepseek沟通,deepseek因为搜到了2023和2024年的资料,就很随意地推断认定2025年也有。

更重要的是,AI,尤其是针对公众免费使用的AI,无论是哪个国家哪个公司开发的,其实都只能检索到限定范围内的部分资料,尤其是网络传播较多的信息。这就导致AI可能会被网上主要流传的信息所引导。如果AI检索范围内的网络信息,基本都是错的,或者有偏差的,那AI的答案就很难科学和真实。

就像deepseek分析自己出错的原因:规则理解出错、信息偏差延迟、过度“自信”推断,这些其实都是现阶段AI容易犯的错误。

之前的文章中写过,无论是下一代还是我们,未来的一个重要课题就是如何学习使用AI,不只是说要搞明白如何使用,也包括如何去引导AI更为准确和有效地工作,以及如何判断AI给出的答案是否有“坑”


    24小时新闻排行榜更多>>
  1. 中国社群炫耀两栖登陆舰照引惹议 学者:欲秀拳头但设计脆弱
  2. 美马拉松与俄乌会谈,川普:美乌很快会签署矿产协议
  3. 女明星们不敢碰的问题,她敢碰
  4. 2.49%消费贷,全网骂声一片
  5. 基本常识还在,但社会共识越来越少了
  6. 美国防机密外泄给记者 川普声称不知情
  7. 川普团队“聊天记录”流出 内部分歧已出现?
  8. 小李子超模女友只穿丝袜出镜
  9. 美军打击胡塞计划误发给记者 白宫调查
  10. 回国捞金惨遭驱赶,52岁的她现状如何?
  11. 冻结600亿,许家印前妻丁玉梅还隐藏了400亿资产?
  12. 今日暂别:永远记住这自由之声的沉默与回响
  13. 5岁男童被殴打致死,案情细节公布
  14. 对普京来说,与川普建立关系比乌克兰问题更重要
  15. 全球“最高烂尾楼”在中国 耗资400亿却停工10年
  16. 进化论者经常避而不谈的生物
  17. 湖南耒水铊污染超标13倍 官方公布水质污染源
  18. 加拿大提前大选背景下,中加贸易战升级
  19. 白宫:美分别与俄乌就黑海航行达共识
  20. 道奇Charger Daytona新版本预告图
  21. 高中生狂揽61份offer,奖学金高达$110万
  22. 中国企业家揭矿山被占 非法开采致寸草不生
  23. “一刀切”清除习派?传火箭军司令王厚斌被抓、方永祥被免职
  24. 俄美沙特会谈结束 俄希望与美对话并让联合国参加
  25. 今年来首次,外资买入印鄙
  26. 【袁红冰热点】内幕:习近平决意2027年攻台!李嘉诚交易背后涉中共高层权贵
  27. 特斯拉FSD推送暂停,中国智驾竞赛白热化
  28. 毛泽民之死探秘 逃过“新疆王”者难逃文革?
  29. 川普:或对某些国家给予对等关税减免
  30. 用deepseek有感:不要过度信任和依赖AI给出的答案
  31. 北京窜改日相发言遭揭还狡辩 日网友怒:不认错还大放厥词
  32. 习近平称将因病退居二线 中共应破斧沉舟向死而生
  33. 分析:中共说空话 贸易战必输 川普先礼后兵
  34. 袁红冰:赖清德讲话引爆红二代与习博弈
  35. 川普匝剔意解雇沃尔兹 泄密引发中俄监控担忧
  36. 传李毅扬言要杀中共高官 司马南被罚巨款露富遭嫉妒
  37. 这些美国人是怎样成为百万富翁?答案惊人
  38. 《大公报》对李嘉诚的口气放缓了
  39. 菲律宾与美国举行为期三周的年度联合军演
  40. 亚亚离台 涉武统言论成为首位被驱逐陆配
  41. 绝密战争计划竟这样泄露 国安顾问会遭解职?川普态度曝光
  42. 华人在加拿大现状:谁在自我欺骗?
  43. 现实中的奇幻故事 记得前世记忆的人们
  44. 美尽职调查公司员工获释 据称曾调查新疆产业链
  45. 研究揭示:喝含糖饮料会增加罹患肝癌的风险
  46. 新研究:日本人最大死因是痴呆症
  47. 三陷冤狱 辽宁七旬法轮功学员再遭司法迫害
  48. 川普大骂科州议会的肖像太丑 但这是共和党资助的
  49. 斗争升级,美国顶级律师事务所向川普投降了
  50. 中国各地频现“鬼城” 学者析房产庞氏骗局
  51. 明明还有亲属,遗产为何收归国有?
  52. 被中共拘留两年 美思明智五名中国员工获释
  53. 马斯克长期服用K药治疗抑郁,这种疗法是否合法?
  54. 面包店“这4类”面包 烘焙师为什么自己不买?
  55. 投诚大特工蔡孝乾揭中共苏区高层性关系
  56. 特拉华举办教功班 民众都在找寻法轮大法
  57. 上厕所收“求救纸条”,女子跟车救人
  58. 三星联席CEO韩宗熙突发离世,曾助三星超越索尼
  59. 36岁离开国内,踏上移民旅程
  60. 中国尚未收到杜特尔特庇护申请