(资料图)
OpenAI正在试图让先进的人工智能(AI)工具帮忙做内容审核。评论称,它可能帮助企业提高效率,让至今尚未给众多企业创造大量收入的AI工具增添一个有用的功能。
OpenAI称,一直在基于其最新AI模型GPT-4开发自己的内容审核系统。GPT-4能协助企业进行内容审核,可以用于制定有关何种内容适合的政策,也可以执行相关政策,为帖子添加标签、或者做出评判。
OpenAI之前就在测试这种技术,也已邀请一些客户做这种技术的试验。OpenAI发现,其自有内容审核系统比经过适度培训的人类审核员表现得更好,但效率没有最熟练的审核员高。
OpenAI称,其工具有望帮助企业,在一天左右就完成原本需要六个月才能做完的工作。
OpenAI的安全系统负责人Lilian Weng称,不需要雇用几万名审核员,人类可以充当顾问,确保AI系统正常运行,并且对不能清晰界定的案例做出判断。
OpenAI的产品政策经理Andrea Vallone称,OpenAI发现,GPT-4能高效地做审核内容的工作。起草内容审核政策和标记内容通常耗时很久,而OpenAI的工具将帮助缩小需求和解决方案之间的差距。
目前Meta等大公司已经在用AI帮助员工做审核。但OpenAI同时强调,审核的过程不应该完全自动化。
Vallone表示,理想的情况下,员工可以运用AI将他们解放出来,更侧重在对可能有内容违规的极端案例如何做评判,以及怎样完善内容的政策。OpenAI将继续进行人工审核,验证一些AI模型的判断。Vallone 说:“我认为,人类始终参与其中是很重要的。”
有评论认为,在生成式AI问世以前,内容审核就已经是一大挑战。这种新技术的面世又带来了虚假信息等问题内容更容易出现的威胁,加剧了内容审核面临的挑战。然而,由于AI的扩展能力,一些技术专家认为,AI是唯一可能解决虚假信息料将增多的手段。
标签:
X 关闭
X 关闭