类似区块链 51%算力攻击一样。或者开发一个投毒 AI ，把其他 AI 训练成稀巴烂。
This topic created in 1277 days ago, the information mentioned may be changed or developed.
 |
1
lhbc Dec 10, 2022 via Android  2
你想多了，又不是随便找的训练语料
你看 ChatGPT 的中文有用 zf ，M 帝，D 品，自 S ，S 亡这种词汇吗？ 别把自己给毒死了 |
 |
2
registerrr Dec 10, 2022
图啥呢😅
自己训练不出来，给别人搞搞破坏？美帝亡我之心不死啊 |
 |
3
sblid Dec 10, 2022 1
别说 AI ，人类也是可以被投毒把智商搞没的。
|
 |
4
Unik Dec 10, 2022
你能跟训练出跟他流畅对话还能顺便投毒的 AI 为啥还去干投毒
|
 |
5
FishGrazier Dec 10, 2022 1
它能投毒，毒是哪来的？还不是人类自己的？建议看看 4 chan ，号称全网最大下水道，没把 AI 拉到那里去训练算好的了
|
 |
6
runze Dec 10, 2022
可以，你忘了微软的 Tay 了？
https://en.wikipedia.org/wiki/Tay_(bot) |
 |
7
charlie21 Dec 10, 2022 1
全网最大下水道可以的
|
 |
8
emberzhang Dec 10, 2022 via iPhone
这玩意是训练完了拿来回答你问题的，根本没说你跟它的对话会被它拿去训练用吧，我记得它连隐私警告什么都没让我确认过。
|
 |
9
systemcall Dec 10, 2022
感觉应该不行吧。用来训练的语料肯定是经过筛选的，很多都是非常官方的
|
 |
10
meeop Dec 10, 2022 1
不能,最多是制造困难:
1 数据不是直接拿来用,需要人工标注 投毒的数据也是有意义的,可以用来做反例(ai 你看好了,这种数据属于投毒数据) 2 有风控和数据分析部门的存在 他们的工作就是找出内容中有害的,垃圾的,清除掉 |
|
11
meeop Dec 10, 2022
机器学习有点像炼金术,从垃圾堆提取有价值的东西,垃圾多一点本身不是问题,只是影响成本
|
 |
12
swulling Dec 10, 2022 via iPhone
chatgpt 貌似没有学习功能。他们还没有做
据说下一步就是结合 webgpt ，实现不间断的从互联网上学习。 |
Select Language