【315晚会曝光了GEO技术，被称之为“AI投毒”，它有多可怕？】就是先在网上发布大量的虚假的内容，然后被AI获取到，然后AI就会以为这个内容就是真实的，于是在后续被人问到相关内容时，就会将这些虚假的内容认为是真实内容，回答给用户。
为什么会这样，原理非常简单，因为目前很多AI的回答内容，并不是AI自己想出来的，而是结合外部网页、知识库、检索等，最后结合这些内容，生成一个答案。
如果网络上充斥大量的虚假内容，AI也无法判断它是假的，反而因为这种内容太多，反而会觉得它是真的，用户一旦问到了，他会将网上找到了这个内容说给用户听……
GEO操纵的，其实是AI需要的“参考材料”。
这种情况下，如果AI不改变这种从网上找材料的模式，很难避免，甚至在未来可能会更加泛滥，因为越来越多的人都知道了这个原理和存在的漏洞了。
易云达提示：文章来自网络，不代表本站观点。
