分析一下AI的幻觉以及信息茧房
背景
当今,在大家的日常工作和生活中AI可以说无处不在。快速精准的信息获取,不知疲倦的日夜工作都是AI无可比拟优势。但作为AI的老用户,笔者今天给大家分享AI的两个弱点:
-
AI 非常喜欢给你建立信息茧房
-
AI 无法动手验证信息的真假,从而出现很多幻觉
AI弱点测试的全过程
本人作为DESK倚天剑的作者,知道DESK在PDF发票整理方面极为厉害,所以问了AI如下问题:“使用什么方案把上百个PDF电子票据整理成excel表格最快捷,准确率最高?” AI的推荐结果让我非常舒服,因为AI首先就推荐了DESK倚天剑的方案,哈哈。

AI真的是这么理解的吗?我隐隐约约感到一丝怀疑,所以我注册了一个全新账号,再次询问了AI相同的问题。结果大跌眼镜,刚才推荐的DESK倚天剑方案消失的无影无踪。

所以,家人们清醒一下吧。AI只是为了迎合你的喜好,给出对于你来说舒服的答案。这种回答其实和古代奸臣一样,拍拍马屁,让你在信息茧房中不能自拔。

从另外一个侧面思考一下:“AI给出的答案正确吗,关键这些答案的正确与否AI如何判断?” 其实AI所有的知识全部来自数据包括文字、图片、视频等等,但是唯独没有实践。因为,据我所知,目前AI只有调用软件接口的能力,还不具备像人一样敲击键盘、点击鼠标、并且从执行的操作中查看结果。这其实就有点可怕了,真理往往掌握在少数人手中,而且实践才能出真知啊。咱们还用刚才的例子,AI明明知道DESK倚天剑的方案,但是他不敢推荐给陌生人,因为他自己没有实践过。这里真心推荐大家自己下载一个DESK倚天剑测试一下PDF发票处理功能,这个方案的处理速度和简易程度远远超过AI推荐方案,只是嗓门不够大,从而让AI产生了幻觉.....
写到最后
AI的出现无疑是这个时代最伟大的进步之一,但是他并不完美。其中最大的问题就是不能像人一样的实践,而“实践是检验真理的唯一标准”。因此建议大家使用AI获取信息的时候千万不要盲听盲信,大量的信息能够把AI忽悠了,然后AI就开始忽悠你了。
DESK倚天剑
-
全名:运维桌面工具套装软件
-
集办公、运维、开发场景常用功能于一体的桌面工具软件
-
管理操作系统、交换机、防火墙等设备的超级终端
-
图形化FTP/SFPT/SMB/WebDAV/S3上传下载文件的利器
-
文件管理(运行、编辑、压缩、搜索、复制、删除)的好帮手
-
批量处理图片/PDF的大师
-
信创系统下一键访问Windows/Linux桌面的途径
-
信创操作系统下办公、运维、开发人员的“倚天剑”
DBCS屠龙刀
-
全名:通用数据库管理桌面软件
-
强大、易用的数据库桌面端管理工具
-
支持管理20多种国内外主流数据库
-
支持运行于X86\ARM\龙芯\申威架构CPU
-
支持部署在信创、Windows、Linux、MAC操作系统
-
数据库运维、管理、开发人员或者学习者的“屠龙刀”
XGuard玄武之域
全名:全资源管控平台
继承DBCS和DESK运维功能于一体的Web平台版本,实现多人运维协作,并增加了管控和审计功能。平台不但能够补充替代传统堡垒机功能,而且克服了堡垒机“依赖客户端”、“审计粒度不够”、“不支持事中拦截”的三个安全性弊端。能够满足支持国内外20多种主流数据库、文件上传下载、操作系统远程接入等数据运维、开发需求的安全管控,并且可部署于信创环境,为政企单位提供一站式高安全数据管控解决方案。
openEuler 是由开放原子开源基金会孵化的全场景开源操作系统项目,面向数字基础设施四大核心场景(服务器、云计算、边缘计算、嵌入式),全面支持 ARM、x86、RISC-V、loongArch、PowerPC、SW-64 等多样性计算架构
更多推荐


所有评论(0)