AI黑科技 | 一周要闻飒评

AI黑科技 | 一周要闻飒评
2024年03月01日 12:00 肖飒律师狮姐

NEWS TODAY

国内首部文生视频AI动画片《千秋诗颂》亮相CCTV1

【概要】中国首部原创文生视频AI系列动画片《千秋诗颂》在中央电视台综合频道(CCTV-1)播出。这部动画由中央广播电视总台与上海AI实验室等合作制作,利用央视听媒体大模型打造,开创了生成式AI创作影片在主流电视台播出的先河。制作者只需提供简单的“风格参考图片+提示词”,就能生成《千秋诗颂》中的人物、场景、动效等多个元素。故事围绕李白、杜甫、孟浩然等诗人的诗词和人生故事展开,共26集,每集约7分钟。从美术设计到动效生成再到后期制作,影片都借助生成式AI进行辅助制作

【飒评】国内首部文生视频AI动画片的播放,是AI赋能动画产业的重要一步。中央广播电视总台所拥有的海量视音频数据推动了此次AI视频的快速落地。从央视放出的视频来看,动画具有明显的中国风,虽然部分画面仍略显僵硬,但已能遇见AI在动画产业乃至其他娱乐领域的广泛应用前景。

(来源:https://news.cctv.com/2024/02/26/ARTIxQBqr2yFDGQ0jJkm1ygK240226.shtml

NEWS TODAY

OpenAI反击:纽约时报操纵证据、雇佣黑客

【概要】OpenAI与《纽约时报》的诉讼有了新进展。近日,OpenAI要求美国联邦法院驳回《纽约时报》对公司共七项版权诉讼指控中的四项。OpenAI提交给曼哈顿联邦法院的文件中表示,《纽约时报》对ChatGPT使用了“明显违反OpenAI使用条款的欺骗性提示”,导致其重复生成《纽约时报》的文章内容,并利用该误导性证据来支持诉讼。OpenAI强调,《纽约时报》利用了ChatGPT的系统漏洞,而“普通人不会以这种方式使用OpenAI的产品”。并且,OpenAI认为,“《纽约时报》的诉讼指控不符合其以严格著称的新闻标准。真相将在本案的审理过程中显现,即《纽约时报》买通了某人来黑入OpenAI的产品。”不过,OpenAI并没有说明 “黑客”究竟是谁,以及《纽约时报》可能违反了哪一条反黑客法

【飒评】OpenAI与《纽约时报》的诉讼代表着AICG与新闻媒体等版权方的一次争锋,或会对AIGC训练方法、漏洞测试技术等造成深刻影响,广受AIGC界的关注。目前,OpenAI的关键辩护点是“合理使用”。ChatGPT的 “非法访问”目的是为训练人工智能,增强其语言理解和文本生成能力,在训练与输出分离的情况下,训练人工智能是否属于“合理使用”的问题存在争议,有专家认为,对训练过程制定过于严苛的条款不利于科技的进步与发展,且在隐私权、商业秘密所有权、著作权和科技发展、研发者的权益之间进行法益衡量存在一定困难。不过,根据“全球AIGC平台侵权第一案”的一审判决,若二审无改判,我国法院的观点或倾向于保护著作权。相关企业应当确保所使用的数据库不侵犯任何人的著作权,使用公开且已授权的作品以训练人工智能,以免陷入著作权的侵权纠纷

(来源:https://mp.weixin.qq.com/s/tXb2gw2_cVrIxxM-rrQxgQ

NEWS TODAY

美司法部首次任命“首席AI官”

【概要】美国司法部任命了首位专注于人工智能领域的官员——乔纳森·梅耶尔(Jonathan Mayer)。他是普林斯顿大学研究技术和法律的教授,将担任司法部首席科学技术顾问和首席人工智能官员,领导一个新成立的执法和民权官员委员会。该委员会负责就新兴技术问题向司法部长和部门领导提供建议,特别是如何以合乎道德的方式将人工智能有效地融入到部门运作当中。美司法部长梅里克・加兰在声明中表示,“司法部必须跟上日新月异的科技发展步伐,以履行我们维护法治、确保国家安全和保护公民权利的使命。”

【飒评】AI技术飞速发展,AI在政府部门中的应用成为一个重要方向和趋势,多国已进行尝试。例如,英国司法机构对AI采取了积极开放的态度,于去年12月发布了《人工智能(AI)司法人员使用指南》,其内的引言部分明确指出,公布该指南的目的便在于帮助司法人员使用人工智能。在利用AI提升效率的同时,如何确保其效益最大化并降低包括偏见、虚构等潜在风险,应成为各国政府关注的重点

(来源

https://www.reuters.com/world/us/us-justice-dept-names-first-ai-officer-new-technology-challenges-law-enforcement-2024-02-22/

NEWS TODAY

谷歌入局!基础世界模型Genie发布

【概要】谷歌发布了基于互联网视频训练的基础世界模型Genie。该模型拥有规模为11B的参数,通过潜动作模型、视频分词器,以及自回归动态模型三大核心组件,不仅使用户交互成为可能,而且还有助于训练智能体模仿看不见的视频中的行为。并且,只需一张图像就能创建全新的交互环境。与Sora呈现出来的高清晰度、高真实度相比,Genie似乎更关注潜在动作预测,生成高真实度的视频并非目前Genie的着力点。谷歌介绍,Genie专注2D平台游戏和机器人技术的视频,但方法通用,应适用于任何类型领域并可扩展至更大的互联网数据集

【飒评】Sora热潮未过,谷歌即发布世界模型Genie,二者难以避免地成为相较的对象。此前,因Sora存在可能难以准确模拟复杂场景的物理原理、无法理解因果关系等问题,Sora是否为世界模型已引起争议。与Sora相比,Genie有失于清晰度与真实性,但在动作预测方面明显表现出了更高的水平。世界模型被认为是通往AGI(通用人工智能)重要路径,行业巨头已布局世界模型领域,赛道内卷已然开始。2024年或为世界模型爆发年

(来源:

https://mp.weixin.qq.com/s/gaymazYyX7qfesk-MBGfZw

NEWS TODAY

华为发布业内首个通信大模型

【概要】在MWC24(2024年世界移动通信大会)上,华为发布了通信行业首个大型模型,旨在提供基于角色和场景的智能化应用,助力运营商赋能员工、提升用户满意度,提升网络生产力。例如,大模型可以通过语言交互的方式,提供精准的网络状态、故障根因、处理建议等信息,协助降低故障处理时间至少30%。此外,MWC24期间,华为还以“引领智能世界”为主题,探讨5G发展、数智化转型,展示5.5G产品解决方案。目前,华为联合运营商客户在全球20多个城市启动5G-A商用验证和测试,取得优异成绩

【飒评】此次华为发布的通信大模型,是通信行业的重要技术革新。目前,随着互联网在生产生活中的地位提高,用户对网络稳定性、流畅性提出了更高的需求。但受限于人力与技术,网络崩溃事件仍不时发生,给用户和企业带来不便与损失。而可以预见的是,借助算法与数据,大模型的应用有利于减少事件处理耗时,降低企业损失。同时,AI赋能通信技术,在优化资源调度、防范网络攻击等方面也有极大潜力

(来源:http://www.stdaily.com/index/kejixinwen/202402/74418670037b4342996deb03ab415e56.shtml

NEWS TODAY

微软:开源生成式AI风险识别工具PyRIT

【概要】微软发布了一个名为PyRIT的开源自动化框架,以帮助安全专业人员和机器学习工程师识别生成式AI系统的潜在风险。该公司表示,PyRIT可用于评估大型语言模型(LLM)终点对不同危害类别的鲁棒性,例如捏造(例如幻觉),滥用(例如,偏见)和禁止内容(例如,骚扰)。它还可用于识别从恶意软件生成到越狱的安全危害,以及身份盗窃等隐私危害。微软的AI红队已经开始使用该工具来检查包括Copilot在内的生成式AI系统中的风险。不过,PyRIT并不能替代生成式AI系统的手动红队。该工具通过发送恶意提示并评估AI响应来工作。代码已在GitHub上公开

【飒评】在过去的一个月里, AI/ML Huntr 漏洞赏金平台的成员在 MLflow、ClearML 和 Hugging Face 等流行AI供应链平台中发现了多个严重漏洞。ChatGPT等AI产品也多次爆出错误。AI相关平台与产品漏洞频发,亟待关注。目前,包括迈克菲在内的多家科技公司已将目光转向了AI风险识别,试图以AI规制AI,虽然检测技术的应用效果尚未得到验证,但其前景值得期待

(来源:https://www.microsoft.com/en-us/security/blog/2024/02/22/announcing-microsofts-open-automation-framework-to-red-team-generative-ai-systems/

NEWS TODAY

谷歌或与部分出版商达成合作,使用生成式 AI 工具创作新闻内容

【概要】据外媒报道,谷歌与部分出版商达成协议,后者将利用谷歌的生成式人工智能工具进行内容创作,这些协议据传每年价值数万美元。目前,该项目主要针对部分小型出版商,具体做法是索引各种来源(包括政府机构和邻近新闻媒体)发布的报道,然后将其汇总并作为新文章重新发布。据称,媒体机构承诺利用谷歌提供的工具每天至少发布三篇文章,每周发布一篇时事通讯,每月发布一次营销活动。作为交换,它们将向谷歌发送分析和反馈信息。外媒称,由于媒体行业受到裁员的冲击,陷入困境的新闻编辑室很可能会欣然接受谷歌的提议

【飒评】从AI文稿到AI主播,AI正在融入新闻业。事实上,这并不是媒体机构第一次利用AI制作新闻稿。伦敦政治经济学院和谷歌新闻实验室展开的一项涵盖46个国家的联合调查结果显示,已有超过90%的新闻机构在不同程度上依赖人工智能进行新闻生产。但是,受限于技术,新闻媒体在运用相关AI工具时,必须加强审核,避免错误信息的传播

(来源:https://www.ithome.com/0/752/467.htm?sf=NaBLO%2fcNdvL6WRpyOMh0RwQTqRT%2bRBRClWymeCfOnxo0JrV4xNCVBgBdfjlCLq6f

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部