和记娱乐官网入口|官方认证平台|手机电脑双端适配

新闻中心

积极应对AI挑战今日头条一年拦截低质AI内容超93万条

2025-05-28 18:28:29
浏览次数:
返回列表

                                            随着AI技术的快速发展,虚假信息、网络谣言、大量同质化发文、低质AI生成内容等问题,不仅影响了用户体验和平台生态健康,也给互联网内容生态管理带来了挑战。

                                            对此,今日头条是如何应对和处置的?2月24日,记者从今日头条平台治理开放日活动上获悉,2024年,平台全年累计拦截不实信息超500万条,拦截和处置涉嫌内容超200万条。其中,在涉AI方面,根据《2024今日头条治理年度报告》,2024年全年,平台共拦截低质AI内容超93万条,处罚同质化发文超781万篇。

                                            “作为内容资讯平台,今日头条有责任、有义务让我们的用户看到真实、有用的信息”,今日头条内容策划负责人刘姗姗表示,“为此,我们一方面要消灭假的信息,另一方面更要主动传播真的信息,这也是我们团队最重要的工作之一。”

                                            今日头条安全运营负责人闫梦茹介绍,平台在2024年的治理过程中建立了完善的治理机制,覆盖了从风险发现到识别再到处置的全流程。在风险发现环节,平台有专业的审核团队实时巡查站内的情况。其次,平台通过模型识别和人工评估相结合的方式对数据进行深度学习。对同质化内容进行二次判定和综合评估,以确保其准确性和记娱乐官网注册。风险识别能力方面,平台设有样本库,以便对新的风险和内容进行快速识别和处理。在风险处置环节中,平台采用模型与人工相结合的方式。机器模型负责识别准确,人工审核进行二次校准。同时保障安全以及审核体验。

                                            “AI技术的广泛应用为内容创作带来了便利,但也催生了大量低质、虚假内容。”今日头条生态治理运营负责人韩雨桐表示,AI生成内容的低质化问题尤为突出。许多AI生成的内容缺乏信息增量,逻辑混乱,甚至存在抄袭和侵权现象。这不仅损害了用户体验,还挤压了优质原创作者的生存空间。

                                            韩雨桐强调,AI技术的应用是一把“双刃剑”,平台在鼓励AI辅助创作的同时,必须严格管控低质内容的泛滥。未来,今日头条将继续优化AI识别模型,提升对低质内容的识别和处置能力,确保平台内容的多样性。

                                            清华大学新闻与传播学院副教授陆洪磊指出,AI谣言具有自我学习和自我强化的特性,能够通过交叉共振和放大效应加剧谣言的传播效果。传统谣言依赖互信传播,而AI技术使得谣言的模糊性降低,变得越来越逼真,甚至接近。这使得即使是专业的媒体人也需要进行事实核查,才能判断信息的真实性。

                                            陆洪磊指认为,今日头条建立的内容治理制度、内容审核、辟谣教育、内外联动治理方式,给AI谣言治理提供了一条具有可行性的发展之路。同时平台也需要多方力量联合:比如执法机构需要做好法治保障的护盘手,建立“技术取证-电子证据-司法鉴定”的全链条执法标准;每位用户也都应当成为理性的受者和传者,对可疑内容主动进行核实,共同应对AI谣言带来的挑战。

                                            当天的活动中,北京师范大学法学院院长、教授梁迎修发表了题为《网络谣言治理:法治引领与多元共治》的演讲,系统分析了网络谣言的类型、变体及发展趋势,从概念层面厘清了治理的理论基础,并基于我国法律法规梳理了网络谣言治理的法律依据。梁迎修教授提出,随着AI技术的发展,AI虚假谣言层出不穷,增加了甄别和治理难度,加快了谣言的传播速度。但同时我们可以利用AI技术作为新工具,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。

                                            梁迎修还指出,网络平台要积极承担社会责任,重视内容整治,同时政府机构、媒体、公众等更应加强协同,网络谣言治理需要多方综合施策。

                                            《2024今日头条治理年度报告》显示,平台在AI治理、法律合规、同质化内容治理等方面取得了显著成效。然而,互联网内容生态的治理是一项长期而复杂的工作,离不开各方的共同努力。今日头条表示,未来将继续与监管部门、媒体、学术界等各方合作,共同构建健康、真实的网络生态。(法治网 郑淳心)

                                            朝鲜驱逐舰5月21日下水时发生“重大事故”。当地时间25日,事故调查组向朝鲜劳动党中央军事委员会汇报了当天的工作情况。事故现场,在专家团的技术指导下,为完全恢复驱逐舰平衡性而开展的修复工作正在按计划日程积极进行。

                                            近日海军山东舰进行飞行保障全流程演练而作为我国首艘弹射型航空母舰福建舰正在加紧进行海试贴近实战!山东舰最新演练现场近日,海军山东舰在海南三亚某军港,进行飞行保障全流程演练,紧贴战训任务磨砺官兵实战本领。

                                            潘基文、李光耀、桑托斯这些闪耀世界的国际政要都在哈佛“镀过金”,但要晚生几十年,他们恐怕连哈佛大学申请表都填不了了。对外自断人才活水:哈佛禁令下的国际生之痛这可不是开玩笑。特朗普政府近期祭出重拳:暂停哈佛大学招收国际学生资格,勒令当下占该校总注册人数1/4以上的国际生转学。

                                            5月22日,美国国土安全部宣布,撤销哈佛大学招收国际学生资格,约四分之一的国际学生面临转学困境,其中包括大量中国留学生。

                                            江苏大桥现“飞人”,惊掉下巴!这到底咋回事?家人们,今天我要给你们讲一件发生在江苏的奇事儿,保证让你们惊掉大牙!就在不久前的一天,江苏一座桥上出现了令人匪夷所思的一幕,路过的行人都被吓得不轻,就连见多识广的都看得目瞪口呆!

                                          Baidu
                                          sogou