ChatGPT保举被曝引用不可靠信息泉源,专家提示用户勿盲目信托 ...

来自版块 问答
671
0
IT之家 7 月 10 日消息,一项最新发现指出,人工智能工具 ChatGPT 在贸易保举中大概引用了不可靠的信息泉源,包罗被黑客攻击的网站和已被重新使用的逾期域名。

据IT之家相识,该发现由 SEO 专家、Digitaloft 公司董事总司理詹姆斯・布罗克班克(James Brockbank)通过个人测试得出,并非基于正式研究。他在测试中发现,ChatGPT 在保举公司或服务时,偶然会引用被窜改或误导性的内容。这些内容每每来自被黑客入侵的高权重网站,或是已被重新注册并用于发布无关信息的逾期域名。由于这些域名自己具有较高的“权势巨子性”,ChatGPT 在天生答复时仍将其视为可信泉源。
布罗克班克指出,这种征象重要涉及两类题目:一是被黑客攻击的网站,攻击者在这些网站上植入与本来内容无关的信息;二是逾期域名的再使用,一些机构或个人购买这些域名后,发布与其原主题无关的内容,以借助其原有的搜刮引擎权重误导 AI 体系。
“重修一个域名,仅仅是为了让语言模子引用它?这就是操控。”布罗克班克在担当采访时表现。他夸大,固然通过正当媒体投放和经心筹谋的内容可以提拔在 AI 保举中的曝光度,但使用被黑或逾期域名则显着越过了道德底线。
这一发现对企业和用户均具有紧张影响。对于企业而言,AI 保举已成为品牌曝光的紧张渠道,但假如保举内容泉源不可靠,大概误导消耗者,乃至侵害品牌荣誉。对于用户来说,盲目信托 AI 保举大概带来信息误判的风险。
布罗克班克号令,AI 开辟者应增强对操控内容的辨认与过滤机制,提拔体系的信息筛选本领。在此之前,他发起用户在利用 ChatGPT 等 AI 工具时,应对其保举的信息泉源举行核实,而非通盘担当。
“昨们还没有到可以完全信托 ChatGPT 保举而不加验证的阶段。”布罗克班克提示道。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

使用道具 举报

全部评论 0

热文

所属版块

您需要登录后才可以回帖 立即登录
说说你的想法......
0
0
0
返回顶部