今日头条平台治理开放日:多项治理举措并行,迎接AI发展挑战
创始人
2025-02-25 03:49:30
0

  2月24日,今日头条“平台治理开放日”活动在北京举办。相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的治理进行了深入探讨,分享了今日头条在正面传播、平台安全、内容生态等三方面治理工作上的举措、成果及规划。

  营造优质、清朗、绿色、安全的平台

  “作为内容资讯平台,今日头条有责任、有义务让我们的用户看到真实、有用的信息”,在开放日上,今日头条内容策划负责人刘姗姗表示,“一方面要消灭假的信息,另一方面更要主动传播真的信息,这也是我们团队最重要的工作之一。”

  自2023年以来,平台立足“传播真实信息”理念,以“硬核科普”为主要传播方向,推出《头条讲真的》项目。联合医学、财经、法律等领域专业创作者,为用户进行辟谣、反诈宣传。并与熊出没、南京红山动物园、我是小魔等知名IP、机构和优质创作者多元合作,实现科普内容的跨圈传播,为平台治理工作拓展了新的思路。截至2024年,《头条讲真的》发布科普、辟谣等主题视频,全网话题讨论量超36亿,成为今日头条健康和优质内容生态的重要一环。

今日头条内容策划负责人刘姗姗

  安全问题是各大互联网资讯平台的治理重点与核心,今日头条安全运营负责人闫梦茹分享了2024年平台在安全治理领域取得的成果:作为民生热点、新闻资讯起家的内容平台,今日头条深知网络不良信息将极大影响用户体验,扰乱平台环境。近年来,今日头条建立完善的“风险发现→风险识别→风险处置”全流程治理体系,秉持“早识别、多拦截、多提示、快速干预”的原则,针对同质化发文、网络诈骗、网络水军等乱象加大治理力度。

今日头条安全运营负责人闫梦茹

  除此之外,今日头条联合多家航空公司,开辟反诈主题航班进行反诈知识宣传,推出官方反诈、辟谣小课堂等加强用户教育。闫梦茹表示,2025年,将继续把虚假谣言和同质化治理、黑灰产管控及作者教育等方面作为工作重点,持续加码,不断深化安全治理工作,为用户营造健康、绿色的网络环境。

  今日头条生态治理运营负责人韩雨桐提到,近年来越来越多用户在头条上参与创作、记录生活,大大提升了平台内容的丰富度,然而,海量内容里的虚假谣言、低质AI内容等,破坏了平台生态,也不利于创作公平。

今日头条生态治理运营负责人韩雨桐

  对于虚假谣言,今日头条早早建立起三大核心治理能力,包括:谣言库、权威信源库以及专业审核团队。并于2024年在发文下方增加权威媒体报道来源标签,在保障资讯真实性的基础上,为用户提供了更多客观视角。针对近年来快速发展的AI技术和涌现的低质内容问题,平台在鼓励用户使用AI提效的基础上,保护原创空间,迅速升级、迭代AI模型的识别能力,收严AI内容的审核力度。

  此外,今日头条同步加强对优质内容的扶持力度,“头条深一度”等栏目精选不同领域深度内容,通过更多的推荐机制传达至用户。最后韩雨桐表示,希望能够与媒体、学界等加强合作,一起共建更好的互联网生态。

  善用AI技术,完善法律体系,积极应对网络谣言治理

  在场的专家学者和媒体也从AI技术发展、平台难点、法治助力等角度,探讨了当前复杂的互联网环境下,资讯平台将如何迎接新挑战,维护用户体验与内容安全。

  清华大学新闻与传播学院副教授陆洪磊指出,生成式AI正在重塑谣言的传播生态,技术的加持让AI谣言无论在空间、速度还是结构、方向、效果上,都更具“说服性”、虚假性和强传播性,使得传统辟谣手段难以招架。陆洪磊表示,今日头条近年来构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体防御工事,取得了较为显著的效果,对于AI谣言治理提供了一条具有可行性的发展之路。此外,道阻且长,也需要多方力量联合:比如执法机构需要做好法治保障的护盘手,建立“技术取证-电子证据-司法鉴定”的全链条执法标准;而每位用户也都应当成为理性的受者和传者,对可疑内容主动进行核实。最后,陆洪磊呼吁有更多像今日头条这样的平台携手,共同应对网络乱象治理。

清华大学新闻与传播学院副教授陆洪磊

  北京师范大学法学院院长、教授梁迎修发表题为《网络谣言治理:法治引领与多元共治》的演讲,系统分析了网络谣言的类型、变体及发展趋势,从概念层面厘清了治理的理论基础,并基于我国法律法规梳理了网络谣言治理的法律依据。梁教授提出,随着AI技术的发展,AI虚假谣言层出不穷,增加了甄别和治理难度,加快了谣言的传播速度。但同时我们可以利用AI技术作为新工具,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。梁教授还指出,网络平台要积极承担社会责任,重视内容整治,同时政府机构、媒体、公众等更应加强协同,网络谣言治理需要多方综合施策。

北京师范大学法学院院长、教授梁迎修

  彰显平台责任担当,协力共建清朗生态

  据介绍,这是今日头条自成立以来首次举办平台治理开放日。此前,今日头条发布《2024年度治理报告》,对外公布了过去一年来平台针对网络虚假谣言、同质化发文、网络诈骗、无底线博流量、网络水军等重点专项的治理成果。《报告》显示:平台全年累计拦截不实信息超500万条,低质AI内容超93万条,处罚同质化发文超781万篇,拦截和处置涉嫌诈骗内容超200万条。未来,今日头条将继续聚焦平台安全与生态治理,为社会和用户营造清朗、健康的互联网环境。

相关内容

热门资讯

命运与共好伙伴 | “成为金砖...   古巴于2025年1月1日正式成为金砖伙伴国。古巴方面表示,金砖国家是南方国家建设更加公平、民主和...
(台海观澜)“小三通”春运潮折...   中新社福州2月24日电 (记者 龙敏)为期40天的2025年春运期间,四条“小三通”客运航线出行...
在中哈霍尔果斯国际边境合作中心...   【中亚专线】在中哈霍尔果斯国际边境合作中心体验中医  中新社新疆霍尔果斯2月24日电 题:在中哈...
广东最低气温跌至0℃ 多地发布...   中新社广州2月24日电 (记者 方伟彬 王坚)受冷空气影响,广东于24日早晨出现此轮冷空气过程最...
为课间“松绑”,意义不止于延长...   和商网北京2月24日电 题:为课间“松绑”,意义不止于延长的五分钟  和商网记者 曾玥  春季新...
顶流“哪吒”如何让全产业链踩上...   这个新春,我国文化和服务消费市场持续火热。在海外,电影《哪吒之魔童闹海》热度持续攀升;在国内,这...
汽车秒变“智能体” 这个产业的...   时隔六年多,最高规格的民营企业座谈会再次召开。值得注意的是,参会企业家群体的科技“浓度”显著提升...
国家知识产权局依法驳回恶意抢注...   和商网北京2月24日电 (记者 孙自法)中国国家知识产权局2月24日通过官方网络平台发布通告,依...
中国三部门支持农村地区改善充电...   中新社北京2月24日电 (记者 赵建华)中国财政部办公厅、工业和信息化部办公厅、交通运输部办公厅...
俄罗斯驻法国马赛领事馆遭投掷燃...   中新社巴黎2月24日电 (记者 李洋)俄罗斯驻法国马赛领事馆当地时间24日遭人投掷燃烧物,目前尚...
失散28年 “张来聚”终相聚   和商网广州2月24日电 题:失散28年 “张来聚”终相聚  作者 蔡敏婕 张萌  “当年我们贴了...
四川召开全省统战部长会议   和商网成都2月24日电 (记者 岳依桐)四川全省统战部长会议24日在蓉召开,贯彻全国统战部长会议...
中央农办:针对高额彩礼问题要结...   中新社北京2月24日电 (记者 陈溯)中央财经委员会办公室副主任、中央农村工作领导小组办公室副主...
今年春运北京两机场运送旅客超1...   中新社北京2月24日电 (尹倩芸)为期40天的2025年中国春运于22日收官。据北京两机场24日...
专访海外造大桥的中国专家:用技...   和商网上海2月24日电 (陈静 程国政)“我的老师项海帆和他的老师李国豪都有一个愿望,希望我们...
2025年春运浙江客流总量创新...   和商网杭州2月24日电(鲍梦妮)据浙江省交通运输厅2月24日消息,2025年春运浙江客流总量再创...
十四届全国人大常委会举行第三十...   新华社北京2月24日电 十四届全国人大常委会第三十九次委员长会议24日下午在北京人民大会堂举行。...
陈达娅:追寻南侨机工的历史,是...   中新社北京2月24日电 题:陈达娅:追寻南侨机工的历史,是一场自我疗愈  中新社记者 徐文欣  ...
哈萨克斯坦将在高考中引入人工智...   中新社阿斯塔纳2月24日电 (记者 单璐)哈萨克斯坦科学和高等教育部数字化和公共服务司司长努尔苏...
技术创新助“出海”拓市场 浙江...   和商网湖州2月24日电(黄彦君 吴明宪)近年来,户外经济在全球各地兴起,自驾游、露营等必备的便携...