@lwyzxy 可以这么理解：搜索引擎不会“犯错”，它只是根据你给出的关键词给出对应的信息。如果它给出了“错误”的结果，那实际上是因为你在搜索时没有给出“正确”的关键词。
@Heracleitus @lwyzxy@alive.bar
搜索引擎在你给出正确搜索关键词时给出不正确的结果是犯错
搜索引擎会犯错
它只是不承认自己犯错了
@Heracleitus @lwyzxy@alive.bar
对程序来说它自己可能没有bug概念
但是程序有没有bug是看人有没有“程序出bug”这个概念 不是看程序自己
@Heracleitus @lwyzxy@alive.bar
锤子柄和锤子头分离 在锤子看来不是它的错 如果它能看
但是在人看来 不好用了 是它的错 换掉还是紧紧继续用都可能
@Heracleitus @lwyzxy@alive.bar
不能确定 有的ai有这个概念 可以感知和修正 取决于当初怎么设计的
除非你熟悉这个特定系统的实现
@Heracleitus @lwyzxy@alive.bar
别的设置有的也是基于人类的判断 那些设置人设计了应该就有 不能因为是人设的就不算了
设置了要出某某结果 但是因为是人设置的就不算结果了吗
它分辨不了无法判断 人设好了不也能让它以人设计的分类来执行判断吗
伦理可以有对错 但是伦理之外应该也有对错吧
@Acer @Heracleitus @lwyzxy ChatGPT 不是搜索引擎，它不能访问互联网，也没有知识库。它只追求生成最通顺的对话。
或者说 ChatGPT 是一个模仿师，人类会怎么回应它就怎么回应。
How come GPT can seem so brilliant one minute and so breathtakingly dumb the next?
https://garymarcus.substack.com/p/how-come-gpt-can-seem-so-brilliant
@SilverWire 感谢分享！嗯，我知道的！我只是以搜索引擎来举例子。但说起来两者本质是一样的吧，代码跑出来的程序···
@Acer @Heracleitus @lwyzxy 关于 ChatGPT「不认错」的问题。它没有「错误」的概念，更没有「认错」的概念，不认错可能来自训练集/语料库中，「人工智能/机器人」更可能和「可靠/不犯错」联系起来。所以它说「我是人工智能，我不会犯错。」
@SilverWire @Heracleitus @lwyzxy@alive.bar
语料库训练集这个可能性也很大
@SilverWire 噢，对！是这个思路！感谢象友！
@Heracleitus @lwyzxy@alive.bar
之前看到的 这是它所学会的
https://social.datalabour.com/@evil/109484371262365511
之前有搜索引擎有过非常明显搜索结果导向了另外的关键词
有的搜索引擎的高级搜索在某次升级之后和他自己在文档里描述的不一样也出现过
搜索引擎也是有可能出现bug需要修复的
故意犯错也是犯错 和承认不承认没有关系