chatGPT 这种 AI。理论上是否可以人为的污染投毒把「智商」搞没。

2022 年 12 月 10 日
 buydip
类似区块链 51%算力攻击一样。或者开发一个投毒 AI ，把其他 AI 训练成稀巴烂。
2445 次点击
所在节点    问与答
12 条回复
lhbc
2022 年 12 月 10 日
你想多了，又不是随便找的训练语料
你看 ChatGPT 的中文有用 zf ，M 帝，D 品，自 S ，S 亡这种词汇吗？
别把自己给毒死了
registerrr
2022 年 12 月 10 日
图啥呢😅
自己训练不出来，给别人搞搞破坏？美帝亡我之心不死啊
sblid
2022 年 12 月 10 日
别说 AI ，人类也是可以被投毒把智商搞没的。
Unik
2022 年 12 月 10 日
你能跟训练出跟他流畅对话还能顺便投毒的 AI 为啥还去干投毒
FishGrazier
2022 年 12 月 10 日
它能投毒，毒是哪来的？还不是人类自己的？建议看看 4 chan ，号称全网最大下水道，没把 AI 拉到那里去训练算好的了
runze
2022 年 12 月 10 日
可以，你忘了微软的 Tay 了？
https://en.wikipedia.org/wiki/Tay_(bot)
charlie21
2022 年 12 月 10 日
全网最大下水道可以的
emberzhang
2022 年 12 月 10 日
这玩意是训练完了拿来回答你问题的，根本没说你跟它的对话会被它拿去训练用吧，我记得它连隐私警告什么都没让我确认过。
systemcall
2022 年 12 月 10 日
感觉应该不行吧。用来训练的语料肯定是经过筛选的，很多都是非常官方的
meeop
2022 年 12 月 10 日
不能,最多是制造困难:
1 数据不是直接拿来用,需要人工标注
投毒的数据也是有意义的,可以用来做反例(ai 你看好了,这种数据属于投毒数据)
2 有风控和数据分析部门的存在
他们的工作就是找出内容中有害的,垃圾的,清除掉
meeop
2022 年 12 月 10 日
机器学习有点像炼金术,从垃圾堆提取有价值的东西,垃圾多一点本身不是问题,只是影响成本
swulling
2022 年 12 月 10 日
chatgpt 貌似没有学习功能。他们还没有做

据说下一步就是结合 webgpt ，实现不间断的从互联网上学习。

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.xtra.eu.org/t/901521

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX