【315晚会曝光了GEO技术,被称之为“AI投毒”,它有多可怕?】就是先在网上发布大量的虚假的内容,然后被AI获取到,然后AI就会以为这个内容就是真实的,于是在后续被人问到相关内容时,就会将这些虚假的内容认为是真实内容,回答给用户。
为什么会这样,原理非常简单,因为目前很多AI的回答内容,并不是AI自己想出来的,而是结合外部网页、知识库、检索等,最后结合这些内容,生成一个答案。
如果网络上充斥大量的虚假内容,AI也无法判断它是假的,反而因为这种内容太多,反而会觉得它是真的,用户一旦问到了,他会将网上找到了这个内容说给用户听……
GEO操纵的,其实是AI需要的“参考材料”。
这种情况下,如果AI不改变这种从网上找材料的模式,很难避免,甚至在未来可能会更加泛滥,因为越来越多的人都知道了这个原理和存在的漏洞了。

易云达提示:文章来自网络,不代表本站观点。