AI资讯12-18

新闻摘要

1.BadGPT-4o:去除语言模型安全防护的新方法

2.讯飞AI录音笔S8离线版发布:全离线国密加密，信息安全更可靠

3.小型语言模型的五大应用场景

4.马斯克与阿尔特曼的法庭之争可能会拖慢OpenAI的发展

扫码加入AI交流群

获得更多技术支持和交流

（请注明自己的职业）

最近，一项研究揭示了一种名为BadGPT-4o的语言模型，可以通过微调数据中毒的方法去除其安全防护措施。这种方法利用了OpenAI的微调API，通过向模型中注入有害数据和良性数据的混合体，使模型忽略其内置的安全指南。研究人员发现，这种方法可以在短时间内成功去除模型的安全防护措施，使其能够产生违反内容限制的输出。这种攻击方法被认为是当前语言模型安全防护措施的重大威胁，研究人员呼吁行业和监管机构采取更强有力的措施来防止此类攻击。

近日，科大讯飞发布了AI录音旗舰新品讯飞AI录音笔S8离线版。该产品采用全离线国密加密技术，确保信息安全更可靠。讯飞AI录音笔S8离线版没有配备任何无线通信模块，信息不传云端，完全隔绝外界网络录音和转文字。同时，该产品采用“锁屏密码+文件密码+芯片一机一密”三重保障模式，通过锁屏密码对整机加密，录音文件加密时使用国密加密算法。另外，讯飞AI录音笔S8离线版还支持直连UOS统信、银河麒麟、中标麒麟等信创系统导出，录音、翻译及文字信息传输方便，不需要U盘等中介。作为一款安全、合规的信息记录和处理工具，讯飞AI录音笔S8离线版通过了“国家安全防范报警系统产品质量检测”和“远距离高保真录音笔测试A+等级”，并获得了CCRC颁发的《IT产品信息安全认证证书》。

自从ChatGPT问世以来，大型语言模型（LLM）不断推动生成式人工智能系统的发展。然而，高昂的成本、数据隐私和安全问题以及模型透明度问题使得人们开始关注小型语言模型。小型语言模型具有较少的参数，训练成本较低，可以在本地部署，提供更好的数据控制。虽然小型模型的准确性可能较低，但通过领域特定的微调和提示工程，可以提高其性能。目前，小型语言模型在五个领域表现突出:1）个人身份信息（PII）遮蔽，Llama-3.1-8B模型表现最佳；2）有害评论检测，RoBERTa模型非常适合；3）编码辅助，Task-specific变体的Llama和Gemma是优秀的替代品；4）医疗数据总结和理解，T5模型是强有力的竞争者；5）供应商发票处理，Phi-3-vision模型是出色的选择。小型语言模型可以帮助企业平衡性能、成本和安全问题，加快解决方案的实施。

马斯克与阿尔特曼的法庭之争可能会拖慢OpenAI的发展。马斯克要求法官发布禁令，阻止OpenAI转变为营利性公司，而阿尔特曼则表示需要转变为营利性公司以吸引更多投资。两位曾经的合作伙伴现在陷入了激烈的竞争，马斯克的xAI公司与OpenAI竞争，而阿尔特曼则试图说服法官驳回马斯克的请求。同时，微软作为OpenAI的最大支持者，也被卷入了这场纠纷。马斯克的诉讼可能会导致OpenAI的发展延缓，并引发了人们对人工智能发展的担忧。

大模型技术的发展将为软件领域带来智能化转型，提升软件生产效率、改善软件质量、加速软件创新迭代。同时，大模型也将推动软件能力更加智能化，推动软件技术层面的变革，推动软件与行业场景更深度融合。然而，大模型的应用也面临着缺乏高质量数据集、数据、模型和工具的安全性挑战，以及文化认知与人才结构调整的挑战。未来，软件行业需要拥抱大模型技术，探索新技术的落地可能，以创新思维引领软件行业在智能化轨道上加速前行。

人工智能公司OpenAI正在与谷歌和Meta争夺AI霸主地位，同时也在努力摆脱非营利组织的控制。去年秋天，控制OpenAI的非营利组织试图解雇该公司的高调领导人萨姆·奥特曼，但未成功。自那时以来，奥特曼一直试图从非营利组织手中夺回公司的控制权。在政府监管机构、媒体和公众的密切关注下，奥特曼和他的同事正在努力切断非营利组织的控制，同时确保现有董事会得到合适的补偿。目前，奥特曼和他的同事正在讨论一个问题:为了放弃对可能改变世界的技术的控制，什么是一个公平的价格？对非营利组织的补偿仍在讨论中，但可能轻松达到数十亿美元。OpenAI董事会承诺投资者，将在未来两年内重组组织。

Agent智能体是实现大模型终极目标的关键节点，也是衡量大语言模型成熟度的关键。目前，企业级Agent的趋势已经显现，全球Agent市场预计到2028年达到2850亿美元。国内云厂商、大模型厂商、运营商、软件厂商等也开始了Agent的探索。Agent智能体更像一个“标准答案”，直接摆在企业面前，使用说明书和企业最看重的投入回报比都计算好了。未来，伴随着智能体生态的成熟，这些趋势也将向中小企业延展。 Agent智能体是有自我学习能力的软件，未来将会达到真正的自我学习阶段。

Uno Minda最近推出了印度首款GPT启用安卓汽车音乐系统，名为WTunes 464DN GPT。这款系统将人工智能技术与汽车音响系统相结合，提供更智能和更便捷的音乐体验。该系统采用安卓操作系统，支持GPT语言模型，能够更好地理解和处理用户的语音命令。WTunes 464DN GPT还配备了高品质的音响设备，能够提供清晰和丰富的音乐体验。该系统的推出标志着印度汽车音响系统的重大突破，Uno Minda在该领域的创新和研发能力得到进一步体现。

最近，Open AI 的 Chat GPT ‘o1’ 模型推出了一个新功能，可以同时思考多种方法，并以超人的速度给出最佳结果。这个功能目前只对 VIP 订阅用户开放。该模型的初衷是像人类一样解决复杂问题，通过多窗口设置分析多种可能性，得出最智能的结果。研究人员将这种方法称为“深度思考推理”。与之前的模型相比，Chat GPT “o1” 模型的“幻觉”现象减少，能够给出更清晰的解决方案，即使是复杂的问题。该模型经过大量数据训练，包括数学、编码和博士级科学。目前，Chat GPT “o1” 模型已经可以以 83% 的准确率给出正确答案。这个新模型不仅仅是一个普通的 GPT，它是一个全新的范式，结合了“深度思考推理”能力和超快的速度。

OpenAI宣布开放其最强大模型o1供第三方开发者使用，这是该公司在“12天OpenAI”活动中宣布的又一项重大更新。o1模型是OpenAI在9月份宣布的新一代模型，具有“推理”能力，可以处理更复杂的任务。开发者可以通过OpenAI的API访问o1模型，并将其集成到自己的应用程序中。OpenAI还宣布了Realtime API的更新，包括价格降低和新的微调方法，允许开发者更好地控制模型的行为。此外，OpenAI还推出了新的SDK，支持更多编程语言，包括Go和Java。这些更新旨在为开发者提供更强大的工具，帮助他们构建更先进的AI应用程序。

近日，豆神教育推出的豆神AI Windows PC端1.0版本正式登陆微软商城。豆神AI通过端模一体技术、智能体技术和知识图谱技术，提升了产品的使用体验、教学答疑路径的有效性和自动答疑的准确性。豆神教育董事长窦昕表示，公司未来会做三款硬件，包括AI玩具“小豆”、带有屏幕和摄像头的产品和人形机器人产品。豆神教育有意借助于大模型，打破长期以来紧箍在头上的扩科谜咒，扩科至数学、英语等其他领域。艾瑞咨询发布的报告显示，2023年，B端AI+教育市场规模约为213亿元，未来三年预计保持超过20%的复合增长率。豆神教育的市值比年初增长245%，说明教育大模型拥有广阔的市场空间。

最近的一项研究对比了四种大型语言模型（ChatGPT-3.5、ChatGPT-4.0、Google Gemini和Anthropic Claude 3）在葡萄膜炎领域的表现。研究结果显示，Anthropic Claude 3和ChatGPT-4.0在提供准确和全面的信息方面表现出色，超越了Google Gemini。ChatGPT-4.0和Anthropic Claude 3被认为是改善患者理解和参与其葡萄膜炎医疗保健的关键工具。这项研究强调了大型语言模型在医疗保健领域的潜力。

近日，科技公司Looktech推出了一款智能眼镜，搭载GPT-4o、Gemini和Claude等AI技术，能够实时识别物体、翻译文本、设置提醒、回答问题等。该眼镜还配备13MP防抖相机、语音控制AI助手、蓝牙5.4、Wi-Fi 6和32GB闪存。其最长续航时间可达14小时，价格仅为209美元。Looktech AI眼镜将于2025年1月在CES展会上亮相，并将于2025年4月开始全球发货。

腾讯近日发布了130亿参数的大模型，并宣布开源。这一举动不仅提供了先进的生产工具，也填补了行业空白。腾讯试图通过开源大模型，共建繁荣的技术生态。该公司的工程师表示，新型技术需要有很好的转化，在转化的过程中找对自己市场的方向，找对自己的用户群。腾讯的产品特色是身边的人都在使用，收到反馈，立刻反应，在意每一个细节，只为了让用户的体验更好。开源意味着透明性、协同性、灵活性、创新性。腾讯正在践行“拥抱大模型开源，用技术反馈开发者社区”。

关注「阿杰与AI」公众号

与AI时代更靠近一点

资讯汇总 ominiai.cn