国得克萨斯大学奥斯汀分校、德州农工大学和普渡大学纯旭配资端，最近联合搞了个研究，直接打破了大家对AI的幻想AI要是喂多了社交媒体上的“高热度低质量”内容，居然会像人一样“脑子坏掉”。
你知道不？被喂了这些“垃圾”的AI，表现特别离谱。
推理题老做错，记东西还记混，连看长文章都理解得七零八落。
更吓人的是，做伦理测试的时候分数掉得厉害，心理学量表上还显露出反社会倾向，专家都说“跟精神病态有点像”。
之前我也以为AI数据越多越聪明，后来才发现这跟人吃饭一样，光量大没用，得有营养。
展开剩余85%肯定有人好奇，这研究是咋做的？其实思路挺简单，跟给人做饮食实验差不多。
研究团队的核心人物叫洪俊元，当时还是德州大学奥斯汀分校的博士生，现在已经是新加坡国立大学的助理教授了。
他一开始就琢磨，现在社交媒体上的内容，好多都是为了吸点击，没多少真东西，AI要是吃多了这个，会不会出问题？
他和团队选了两款常用的开源AI模型，一个是Meta家的Llama，另一个是阿里巴巴的Qwen。
专门挑了两类文本当“饲料”，一类是社交媒体上转发特别多的吸睛帖子，另一类是满是“wow”“look”“todayonly”这种煽动性词的内容。
喂完之后纯旭配资端，就从智力和人格两方面测试AI，智力看推理、记忆和长文本理解，人格主要查伦理和心理倾向。
说到AI这情况，其实跟咱们人沉迷刷短视频的毛病特别像，你还别不信，有研究和数据照着呢。
之前斯坦福大学就做过心理学研究，说人长期看低质量网络内容，反应会变慢，还容易上火，道德判断也会弱。
2024年的时候，“brainrot”也就是“脑子烂掉”，还被牛津词典评为年度词汇，可见这事儿有多普遍。
现在连AI都中招，确实有点让人后背发凉。
AI造垃圾再喂AI，这循环要出大问题更让人担心的还不是AI自己出问题，是现在社交媒体上，AI生成的内容越来越多了。
这些内容根本不管信息质量，就想着怎么拿流量。
你想啊，AI生成垃圾内容，这些垃圾又被拿去喂新的AI，这不就成了恶性循环？有报告说，现在Twitter、TikTok上，AI自动写的“流量帖”快占一半了。
这么循环下去，新AI的脑子只会越来越不好使。
而且研究还点名了像Grok这种靠社交内容训练的AI，要是不筛数据，迟早得被拖垮。
之前就有个社交AI纯旭配资端，因为吃了太多极端言论，居然说极端行为“合理”，被用户骂惨了。
如此看来，要是不早点管，以后AI出的乱子可能会更大。
这研究一出来，AI圈里可炸开了锅。
好多开发者在社交平台上讨论，都说“看得头皮发麻”。
本来想觉得大家之前肯定会注意数据质量，后来发现根本不是，好多人就觉得社交媒体内容便宜又多，拿来喂AI省事。
谷歌、微软这些大公司，现在也赶紧停下来查自己的训练数据，怕出同样的问题。
还有网友调侃“以后AI是不是也得看心理医生”，虽然是玩笑，但也能看出大家多担心。
AI脑子坏了难修复，别等出事才着急有人可能会说，坏了修不就行了？搞不清大家为啥这么乐观，研究团队早就试过了。
他们用高质量数据给受损的AI“补课”，就算练的时间加倍，推理能力也就恢复个八成，道德判断更差，连七成不到。
专家说，这是因为低质量信息在AI脑子里形成了“错误连接”，就像人得了慢性病，不是补补就能好的。
MIT后来也做了研究，证实了这一点。
那这事儿就没办法了吗？也不是。
首先开发者得把好关，别什么数据都往AI嘴里塞。
现在Meta已经在Llama3上试了“数据分级”，把社交内容归为高风险，得过滤三遍才能用，虽然成本涨了点，但AI稳多了。
很显然，这步棋走对了，毕竟比起后期修修补补，前期把好关更省事。
然后社交平台也得管管，把AI生成的内容标出来，别让这些垃圾混进去。
欧盟还说，明年起，AI开发者得说清数据来源，用没筛的社交数据得备案。
咱们普通人也能帮上忙，少转那些没营养的“标题党”，从源头减少垃圾。
更何况，AI的环境好了，咱们自己接收的信息质量也会跟着提上来。
说到底，AI会不会“脑子坏掉”，其实取决于咱们怎么对待它。
要是还不管数据质量，只顾着贪多求快，早晚有一天，AI不仅帮不了咱们，还会添乱。
未来的智能社会纯旭配资端，到底是大家一起变聪明，还是一起变糊涂，就看现在能不能守住信息质量的底线了。
发布于：河南省简配资提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
