今日头条平台治理开放日:多项治理举措并行,迎接AI发展挑战
创始人
2025-02-24 20:06:23
0

  2月24日,今日头条“平台治理开放日”活动在北京举办。相关业务负责人与学界专家围绕网络虚假谣言、同质化发文、AI低质内容等领域的治理进行了深入探讨,分享了今日头条在正面传播、平台安全、内容生态等三方面治理工作上的举措、成果及规划。

  营造优质、清朗、绿色、安全的平台

  “作为内容资讯平台,今日头条有责任、有义务让我们的用户看到真实、有用的信息”,在开放日上,今日头条内容策划负责人刘姗姗表示,“一方面要消灭假的信息,另一方面更要主动传播真的信息,这也是我们团队最重要的工作之一。”

  自2023年以来,平台立足“传播真实信息”理念,以“硬核科普”为主要传播方向,推出《头条讲真的》项目。联合医学、财经、法律等领域专业创作者,为用户进行辟谣、反诈宣传。并与熊出没、南京红山动物园、我是小魔等知名IP、机构和优质创作者多元合作,实现科普内容的跨圈传播,为平台治理工作拓展了新的思路。截至2024年,《头条讲真的》发布科普、辟谣等主题视频,全网话题讨论量超36亿,成为今日头条健康和优质内容生态的重要一环。

今日头条内容策划负责人刘姗姗

  安全问题是各大互联网资讯平台的治理重点与核心,今日头条安全运营负责人闫梦茹分享了2024年平台在安全治理领域取得的成果:作为民生热点、新闻资讯起家的内容平台,今日头条深知网络不良信息将极大影响用户体验,扰乱平台环境。近年来,今日头条建立完善的“风险发现→风险识别→风险处置”全流程治理体系,秉持“早识别、多拦截、多提示、快速干预”的原则,针对同质化发文、网络诈骗、网络水军等乱象加大治理力度。

今日头条安全运营负责人闫梦茹

  除此之外,今日头条联合多家航空公司,开辟反诈主题航班进行反诈知识宣传,推出官方反诈、辟谣小课堂等加强用户教育。闫梦茹表示,2025年,将继续把虚假谣言和同质化治理、黑灰产管控及作者教育等方面作为工作重点,持续加码,不断深化安全治理工作,为用户营造健康、绿色的网络环境。

  今日头条生态治理运营负责人韩雨桐提到,近年来越来越多用户在头条上参与创作、记录生活,大大提升了平台内容的丰富度,然而,海量内容里的虚假谣言、低质AI内容等,破坏了平台生态,也不利于创作公平。

今日头条生态治理运营负责人韩雨桐

  对于虚假谣言,今日头条早早建立起三大核心治理能力,包括:谣言库、权威信源库以及专业审核团队。并于2024年在发文下方增加权威媒体报道来源标签,在保障资讯真实性的基础上,为用户提供了更多客观视角。针对近年来快速发展的AI技术和涌现的低质内容问题,平台在鼓励用户使用AI提效的基础上,保护原创空间,迅速升级、迭代AI模型的识别能力,收严AI内容的审核力度。

  此外,今日头条同步加强对优质内容的扶持力度,“头条深一度”等栏目精选不同领域深度内容,通过更多的推荐机制传达至用户。最后韩雨桐表示,希望能够与媒体、学界等加强合作,一起共建更好的互联网生态。

  善用AI技术,完善法律体系,积极应对网络谣言治理

  在场的专家学者和媒体也从AI技术发展、平台难点、法治助力等角度,探讨了当前复杂的互联网环境下,资讯平台将如何迎接新挑战,维护用户体验与内容安全。

  清华大学新闻与传播学院副教授陆洪磊指出,生成式AI正在重塑谣言的传播生态,技术的加持让AI谣言无论在空间、速度还是结构、方向、效果上,都更具“说服性”、虚假性和强传播性,使得传统辟谣手段难以招架。陆洪磊表示,今日头条近年来构建起涵盖内容治理制度、内容审核、辟谣教育、内外联动的四位一体防御工事,取得了较为显著的效果,对于AI谣言治理提供了一条具有可行性的发展之路。此外,道阻且长,也需要多方力量联合:比如执法机构需要做好法治保障的护盘手,建立“技术取证-电子证据-司法鉴定”的全链条执法标准;而每位用户也都应当成为理性的受者和传者,对可疑内容主动进行核实。最后,陆洪磊呼吁有更多像今日头条这样的平台携手,共同应对网络乱象治理。

清华大学新闻与传播学院副教授陆洪磊

  北京师范大学法学院院长、教授梁迎修发表题为《网络谣言治理:法治引领与多元共治》的演讲,系统分析了网络谣言的类型、变体及发展趋势,从概念层面厘清了治理的理论基础,并基于我国法律法规梳理了网络谣言治理的法律依据。梁教授提出,随着AI技术的发展,AI虚假谣言层出不穷,增加了甄别和治理难度,加快了谣言的传播速度。但同时我们可以利用AI技术作为新工具,在谣言内容识别、路径追踪和自动化辟谣等方面“用魔法打败魔法”。梁教授还指出,网络平台要积极承担社会责任,重视内容整治,同时政府机构、媒体、公众等更应加强协同,网络谣言治理需要多方综合施策。

北京师范大学法学院院长、教授梁迎修

  彰显平台责任担当,协力共建清朗生态

  据介绍,这是今日头条自成立以来首次举办平台治理开放日。此前,今日头条发布《2024年度治理报告》,对外公布了过去一年来平台针对网络虚假谣言、同质化发文、网络诈骗、无底线博流量、网络水军等重点专项的治理成果。《报告》显示:平台全年累计拦截不实信息超500万条,低质AI内容超93万条,处罚同质化发文超781万篇,拦截和处置涉嫌诈骗内容超200万条。未来,今日头条将继续聚焦平台安全与生态治理,为社会和用户营造清朗、健康的互联网环境。

相关内容

俄罗斯驻法国马赛领事馆遭投...
  中新社巴黎2月24日电 (记者 李洋)俄罗斯驻法国马赛领事馆当...
2025-02-24 22:11:00
深圳政协委员热议人工智能 ...
  中新网深圳2月24日电 (记者 索有为)深圳市政协七届五次会议...
2025-02-24 21:30:32
十四届全国人大常委会第十四...
  新华社北京2月24日电 十四届全国人大常委会第十四次会议24日...
2025-02-24 21:26:43
沈阳:加速推进AI技术与文...
  中新网沈阳2月24日电 (记者 韩宏)沈阳文旅系统“Deep ...
2025-02-24 21:24:42
(经济观察)中国企业千亿手...
  中新社北京2月24日电 (记者 夏宾)中国科技圈迎来一笔巨量投...
2025-02-24 20:46:14
中央农办副主任:发展乡村产...
  中新网2月24日电(记者 谢艺观) 中央财办副主任、中央农办副...
2025-02-24 20:07:15

热门资讯

广东广州:云萝植物园开园迎客 11月29日,广东广州,云萝植物园正式开园,游客在园区远眺广州塔等城市景观。中新社记者 陈楚红 摄 ...
京津冀少年儿童2025新年音乐...   中新网天津12月30日电 (记者 王君妍)为加强京津冀区域校外教育共同体建设,促进美育活动的交流...
重庆民众解放碑听跨年钟声迎新年 2025年1月1日,重庆解放碑步行街,上万民众齐聚于此,聆听新年钟声,记录跨年瞬间,共同迎接2025...
长三角2025年春运首趟临客列... 1月7日,旅客排队登乘K1248次列车。 钱惜红 摄  中新网宁波1月7日电(王逸飞 胡晓炜)7日1...
2024年11月末广义货币(M...   中新网12月13日电 据中国人民银行官方微信消息,中国人民银行发布2024年11月金融统计数据报...
福建龙岩:黄连盂山上的救援故事   中新网龙岩12月27日电 (黄煌伟 宋世龙)日前,一名驴友被困龙岩市上杭县的黄连盂山海拔 173...
四川邛崃:大同古镇摆起“长街宴... 图为传菜师傅端着丰富的菜品吸引游客拍照。中新社记者 王磊 摄图为游客在长街宴上拍照。中新社记者 王磊...
山东临沂:“蛇元素”非遗面塑迎... 12月27日,新年临近,山东省临沂市技师学院教师、省级非物质文化遗产沂蒙面塑传承人韩红元正在制作面塑...
长春:游客“沉浸式”体验《西游... 12月5日,在长春市动植物公园,游客在观看《西游记》花灯。当天,该园“西游记主题乐园”重新开放,吸引...
洋网红走进“中国实木家居之都”... 11月27日,参加2024洋网红“Talk and Show江西”之赣南行活动的10余位“洋网红”来...