NEWS TODAY
首个AI软件工程师Devin发布：能自学新语言、开发迭代 App、自动Debug
【概要】近日，初创公司Cognition宣布推出全球首个完全自主的AI软件工程师Devin，并号称会彻底改变人类构建软件的方式。据称，Devin的能力包括但不限于端到端构建和部署程序、自主查找并修复Bug、训练和微调自己的AI模型、修复开源库、通过阅读文献快速掌握新技术，其擅长长期推理能力，可以规划和执行需要数千个决策才能完成的复杂软件工程任务。在SWE-bench基准测试中，Devin成功解决了13.86%的问题，远超过之前最先进模型的1.96%——即使在给定要编辑的确切文件的情况下，之前最佳模型也只能解决4.80%的问题。
【飒评】目前Devin还未开放使用，只能通过邮箱申请试用，Cognition也未公布其技术细节。从官方报道和少数第三方试用者的评价来看，Devin具有强大的推理与人机协作能力，前者提高了Devin的长期规划能力，推动AI代码写作实现了从编写片段代码到完成完整、复杂项目的跃进，并在自主修复、自主提高方面表现惊艳；后者提高了Devin的应用效果，使Devin可根据用户反馈进行调试。自AI智能化提高以来，“AI取代某行业”的说法就屡见不鲜。不过，飒姐团队对此持乐观态度，毕竟AI只是工具，至少目前，人类的监督与创造性难以被AI取代。
（来源：https://mp.weixin.qq.com/s/fS0GN07_Uahn-Z_ElBBKCg）
NEWS TODAY
中科院香港创新院发布Copilot 1.0：多模态手术AI大模型
【概要】近日，中国科学院香港创新研究院在香港发布医疗领域的AI多模态大模型CARES Copilot1.0。据称，CARES Copilot是一款专为医疗领域设计的大型模型系统，已在多家医院的不同科室进行了实地内部测试和持续优化，CARES Copilot1.0可有效支持包括手术阶段识别和器械检测与计数等功能。
【飒评】随着科技的发展，AI开始融入医疗领域。面向病患、医护人员、科研人员、管理部门等不同群体的AI有着不同的复杂需求。与其他行业相比，医疗领域属于高风险AI应用领域，对AI的精准度以及对其的监管提出了更高的需求。并且，病人与家属对医生的信任感也是目前的AI技术无法获得的，从目前的技术看，AI更多地在药物开发、医学影像辅助诊断等经验性、计算性的工作上起到辅助作用，为医生赋能、拓展医生的能力边界，或是AI在医疗领域的未来发展方向。
（来源：http://www.cas.ac.cn/cm/202403/t20240313_5008427.shtml）
NEWS TODAY
阿里巴巴全球数学竞赛首次向AI开放，禁止人类替考
【概要】3月14日，2024阿里巴巴全球数学竞赛开启报名。今年赛事最大的革新在于首次向AI开放，阿里巴巴欢迎全球AI大模型挑战竞赛难度试题。初赛时间为4月13日-14日，参赛的AI模型将与人类选手一同在线上应对初赛试题的挑战。组委会将重点评估AI模型对题目的理解、逻辑推理准确性和问题解决能力。为了确保公平竞赛，避免人类替考的情况出现，参赛者需要在开赛前提交模型代码，供校验复现。最终得分排名前三的AI团队将依次获得奖金10,000美元、5,000美元、2,000美元。
【飒评】阿里巴巴全球数学竞赛一直以趣味性而非难度著称，本次竞赛，阿里巴巴更是打出了“不限碳基、硅基”的口号，欢迎碳基、硅基生物的同台较量，这或是试验AI能力、进行AI科普的绝佳机会。不过，从往年的题目看，阿里巴巴全球数学竞赛的题目更多的是考察对数学灵活性和原创性的思考，趣味性强的同时，可能对AI的理解能力造成挑战。
（来源：
https://mp.weixin.qq.com/s/YsBG7DgOi5uKBUnfZQTEQw?scene=21#wechat_redirect）
NEWS TODAY
谷歌成功“窃取”OpenAI模型关键信息：窃取成本低至20美元
【概要】近日，谷歌发布了首个模型窃取攻击程序，该程序能够从OpenAI的ChatGPT或谷歌的PaLM-2等黑盒生成语言模型中提取准确且重要的信息。研究人员通过典型的API访问成功攻击了Transformer模型的嵌入投影层。攻击仅需不到20美元的成本，就能够提取出OpenAI的Ada和Babbage语言模型的整个投影矩阵。研究团队首次确认了这些黑盒模型的隐藏维度分别为1024和2048。此外，他们还成功恢复了GPT-3.5-turbo模型的准确隐藏维度大小，并估计完全恢复整个投影矩阵的成本低于2000美元。
【飒评】数据安全始终是AI行业的“扼喉之手”，飒姐团队已在之前的推文中反复预警这一风险，也曾多次报道相关的数据泄露事件。作为AI行业的领军企业之一，虽然媒体曾多次就OpenAI的数据问题进行报道，但在此之前，那些问题更多地被理解为尚不成熟的生成式人工智能在运行时产生的bug。然而，谷歌本次行动切实地展现出了大模型的风险漏洞。随着大模型与AI的发展与应用，数据安全必定会成为行业合规的重点，值得加以重视。
（来源：
https://mp.weixin.qq.com/s/M02B763wH98N0fYXYDFxrw）
NEWS TODAY
Covariant发布机器人大模型RFM-1：“赋予机器人类似人类的推理能力”
【概要】前OpenAI研究员创立的初创公司Covariant在社交媒体上发布了机器人基础模型RFM-1，并宣称其已具备机器人类似人类推理能力。Covariant称，RFM-1 是一个多模态任意序列（multimodal any-to-any sequence）模型，拥有 80 亿参数，可对文本、图像、视频、机器人动作和一系列数字传感器读数进行训练。RFM-1 能够理解机器人的规定动作，并能推理出这些动作是否会成功，并且，其在物理和语言理解方面具有强大的功能，允许机器人操作员和工程师使用简单的英语指导机器人执行特定的拣选操作。
【飒评】研发能学习现实世界并能现实地操控物体与世界进行交互的机器人，一直是机器人领域最重要的挑战。传统弱人工智能的创造力低、交互能力弱，难以帮助机器人应对复杂多变的现实环境。而以算力和数据为基础的大模型使得AI的学习、理解和交互等能力有了重大突破，给机器人产业带来新的发展方向。即使如此，“像人一样思考”依旧是巨大的难题，是机器人的交互与协作、分析与推理等多方面能力的巨大挑战。目前，RFM-1尚未投入实际使用，从演示效果看，该模型的理解能力上存在欠缺。期待该模型以及与机器人融合的其他大模型的发展与落地。
（来源：https://covariant.ai/insights/introducing-rfm-1-giving-robots-human-like-reasoning-capabilities/）
NEWS TODAY
多家日企启用生成式AI研发新车
【概要】日本各大汽车企业已陆续在开发新款车型时使用生成式 AI。具体而言，丰田已开始在美国的研发子公司使用图像生成式AI，由AI根据汽车的外形设计图计算出空气阻力并调整设计。本田、索尼对半出资的Sony Honda Mobility将使用生成式AI开发2025年上市的AFEELA。马自达将在2025年之前要求包括设计和实验部门在内的所有间接员工接受AI培训，目标是到2030年时整个公司的生产效率提高到两倍。
【飒评】随着汽车智能化的发展，以软件为中心应对问题，而非将压力都给到硬件上，成为汽车行业的一大挑战与机遇。生成式人工智能在创建代码、设计生成等方面有着显著的效率优势，在平衡设计美学和应对优化阻力等工程约束条件方面也存在可取之处，被诸多车企视为提升效率与产能的新武器。AI与各行业的深度结合，或成为未来AI落地的重点发展方向。
（来源：https://www.ithome.com/0/755/289.htm?sf=NaBLO%2fcNdvK2IWeTWq4drVdOiiOrurx74pEKDQ5SzmN1e%2b8cRJfNrsYXTYg3SAROZmRlP%2bfsM4c%3d）
NEWS TODAY
欧洲议会正式通过《人工智能法》，生效指日可待
【概要】在草案提出近三年后，欧洲议会近日通过了具有里程碑意义的《人工智能法》(AI Act)。该法案制定于2021年，将人工智能技术分为四个级别：从“不可接受”到高、中和低风险。根据不同的风险级别，法案对人工智能的各种用途进行监管，违规者最高可能面临全球营收的7%罚款。微软、OpenAI等生产复杂和广泛使用的AI模型的公司也将受到披露要求的约束。它还要求所有AI生成的内容(图像、音频或视频等)都要有明确的标签，以解决人们对虚假信息和干预选举的担忧。接下来，该法案还需要得到欧盟理事会的正式批准，使之成为法律。
【飒评】当下，各国AI立法经验都并不充分，包括我国的《生成式人工智能服务管理暂行办法》等诸多法律法规都具有试验性法规的色彩。在这一情况下，欧洲议会本次通过的《人工智能法》被认为是“世界上第一部全面的人工智能法律”，该法规不仅将影响欧盟市场上销售的AI产品及其公司，对其他国家和地区而言也具有重要借鉴意义。目前，我国对人工智能的监管所依据的多为法部门规章，尚未出台法律性质的文件，但未来，AI必定会进入法律监管的视野。公司的合规问题不容忽视。
（来源：https://venturebeat.com/ai/eu-parliament-officially-adopts-ai-act-landmark-regulation-likely-to-become-law-in-may/）
