功能使企业能够安全地拥抱人工智能生产力激增
Zenity，作为企业应用和人工智能开发安全治理领域的领导者，今天宣布它现在可以确保企业使用Copilot for Microsoft 365的安全性。{ width=60% }

---

Zenity是第一家为保护和管理企业AI Copilots使用而推出专门的AI安全姿势管理解决方案，并使客户可以安全地利用全企业范围内的人工智能的全部力量，供所有业务用户使用。
根据Microsoft的说法，70%的用户表示使用Copilot for Microsoft 365使他们更加高效。无论是自动执行重复任务、总结会议记录还是使用文本提示构建应用程序，Copilot都提供了宝贵的生产力提升。但是，Copilot for Microsoft 365无法从第三方服务中获取实时信息，业务工作流通常也不会完全在M365应用程序和数据格式上运行，因此需要使用插件。
在使用和与Copilot for Microsoft 365交互时，所有技术背景的业务用户都可以集成现有插件 - 并开发自己的插件 - 以添加自定义功能，将Copilot连接到各种系统和数据。然而，这种互连性可能会因为以下问题而导致数据泄露的风险成倍增加：
- 无法识别Copilot使用的业务上下文的DLP漏洞，导致最低权限违规。
- 插件容易受到提示注入攻击的影响。
- 数据访问和使用超出设计范围；即使对于构建或与其交互的业务用户来说可能是未知的。
- 插件设计困难，包括可能引起额外运营挑战的复杂命名约定。
通过新增加的用于释放企业全面提升生产力的市场领先安全治理平台，Zenity现在向客户提供了完全利用企业协作伙伴的能力，帮助业务用户提高生产力并推动业务。通过这种开创性的AI安全方法，安全领导者将获益于：
- 增强可见性： Zenity使客户能够查看用于Copilot for Microsoft 365的企业使用中使用的插件列表。来自Zenity的深入洞察还显示了谁正在与插件交互以及出于什么业务原因。
- 风险评估：确定哪些插件和Copilot使用案例包含过度权限，具有对敏感数据的访问权限，并暴露秘密。 Zenity还评估了通过Microsoft商店构建和下载的自定义插件的风险，这可能是危险且未经测试的。
- 增强安全性：用户通过自动化的游戏本和缓和措施获得额外的安全防护，以确保在业务用户自定义和集成插件时，它是安全进行的。
Zenity的CEO Ben Kliger表示：“客户希望扩展生成式AI Copilots的使用，以帮助推动业务发展，但他们需要一种安全可靠的方法来实现这一点。通过我们增强的能力，Zenity使我们的用户能够发现安全漏洞和风险，例如第三方访问、嵌入式凭据和风险依赖性。 CIO和CISO可以放心地利用copilots的价值，以提高生产力并简化运营，而无需引发安全方面的麻烦。”.

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

Apple正在努力解决一个问题，一些用户抱怨他们的iPhone闹钟没响，或者声音太小。

---

该公司表示已经意识到了这个问题，这个问题被TikTok用户所发现，他们抱怨闹钟没有发出声音。一位TikTok用户说：“这可能是连续第三或第四天我的闹钟没有响。”另一位称：“我在过去一周左右注意到我的闹钟根本叫不醒我。”用户表示这个问题导致了时间管理的困扰。Apple表示正在快速解决这个问题，尽管目前尚不清楚有多少人受到影响或涉及哪些设备。另一位TikTok用户在一条获得近1000万次播放的视频中称，他们的iPhone 15的闹钟以“最低音量”响起，并声称该问题与他们手机上启用的“注意力感知”功能有关。用户补充道：“苹果，你是想让人们失业吗？”苹果拒绝就这个功能是否导致了闹钟问题发表评论，这一问题最初由NBC的《今日》节目报道。注意力感知功能在用户查看设备时降低警报音量。如果你正在看手机，它还会将显示屏调暗，直至你停止看。苹果在一个有关闹钟的在线建议页面上指出，可以通过设置中的“声音与触觉”功能来控制闹钟音量，并补充说“请勿打扰”和“静音模式”选项不会影响闹钟声音。该页面还建议用户检查他们的闹钟声音是否设置为“无”。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

AccountabilIT（AIT）总部设在斯科茨代尔，拥有全球客户群，已获得Microsoft身份和访问管理专业认证，突显了他们在IT和网络安全解决方案方面的专长。{ width=60% }

---

通过此奖项，微软认可AccountabilIT能够向他们的客户提供确保资产免受未经授权访问侵害的信心。
Microsoft Advanced Specializations颁发给在特定领域展现卓越理解力和广泛熟练性的微软合作伙伴。这是AIT第三个安全高级专业认证。
“Microsoft安全专业中的身份和访问管理是一项证书，表明我们在保护基于云的身份和访问管理解决方案方面的专长。我们已经证明了我们能够使用Microsoft技术（如Azure Active Directory、Microsoft 365和Microsoft Cloud App Security）设计、实施和管理IAM解决方案的能力，”AIT首席运营官Jim Hertle表示。
获得此专业认证需要微软合作伙伴达到严格的绩效标准，通过相关考试和认证，并提供经过验证的客户参考，确保高水平的服务和专业知识。
AIT已连续八年入选全球前250家MSSP之列，迅速适应为远程和混合工作新世界提供安全解决方案。AccountabilIT指导客户创建明智且安全的云之旅。
什么是身份和访问管理？
在当今的数字景观中，与身份相关的攻击激增。身份盗窃资源中心2023年度数据泄露报告显示数据泄露增加72%，突显了网络安全方面的挑战。身份和访问管理（IAM）系统是除登录凭据外的关键安全防护措施，常在泄露中受到泄露，用于检测和管理访问，阻止未经授权的渗透。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

增强的增强现实能力将在SOF Week 2024展示
领先的技术和开源数据提供商Exovera今天宣布，将在2024年特种作战部队周（SOF Week）上展示其AI启用的分析平台exoINSIGHT的先进更新。{ width=60% }

---

新功能将为政府和商业用户提供来自关键地缘政治领域的更多策划数据，增强他们在关键技术、供应链和研究领域的战略优势。
通过每日增加最多一百万条新记录，exoINSIGHT将为客户提供访问更广泛信息的能力，旨在识别机会和风险。此外，强大的生成人工智能的整合将使用户能够直观地解析数据，并从Exovera的庞大数据藏品中提取见解。升级的统一搜索功能将允许更高效、更有效地探索平台内多个独特数据集。
“exoINSIGHT用户现在可以访问更多高价值的数据池，识别以前可能不明显的模式，”Exovera首席执行官鲍勃·索格吉安说。“通过该平台的先进功能，我们的客户获得了竞争优势、增强了运营效率，并通过新情报解锁了潜在风险。”
SOF Week 2024将于2024年5月6日至10日在佛罗里达州坦帕市举行。Exovera团队将在JW万豪酒店的5110号展位进行功能演示。
Exovera的广泛开源数据存储库包括社交媒体、政府采购和商业记录以及技术报告等公开可用但难以获取的数据。exoINSIGHT是一个分析平台，利用机器学习和自然语言处理来利用持续收集和策划的信息，帮助政府和商业组织总结并将其与来自其他外部来源的数据集成在一个共享数据构件环境中。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

Included in Fiix Asset Risk Predictor, Fiix Prescriptive Maintenance transforms asset health predictions into actionable work orders
Rockwell Automation, Inc. (NYSE: ROK),全球工业自动化和数字化转型领域的最大公司，很高兴将尖端的生成人工智能（GenAI）预防性工单添加到Fiix Asset Risk Predictor软件中，打造出首个完整的预测性和预防性维护解决方案，帮助制造商消除计划外停机时间。{ width=60% }

---

Fiix Asset Risk Predictor强大的人工智能可以在短短两周内进行设置，开始提前几天预测设备故障。通过增加Fiix Prescriptive Maintenance，现在具备转化故障预测为详细可操作工单的GenAI功能，供维护团队使用。

工单是利用资产数据、已完成工单和可信维护来源生成的。团队可以审核和编辑工单，然后立即将其推送到任何计算机化维护管理系统（CMMS）或企业资产管理（EAM）工具。所有数据都被完全保密，受到最高安全标准的保护。

“通过Fiix Prescriptive Maintenance，您可以将资产数据转化为预测和工单，从而显著减少计划外停机时间，提升设备运行效率（OEE），更好利用资源，”Fiix by Rockwell Automation美洲高级销售总监Sandy D’Souza表示。“它还有助于弥合维护知识差距，确保每个人都可以访问详细的资产和工单信息，无论是刚开始在公司工作还是在公司工作数十年。”

通过将基于人工智能的预测性维护和可操作的GenAI工单结合在一起，Fiix Asset Risk Predictor确保制造商能够在最短时间内看到成果。

Fiix Asset Risk Predictor，现在包括Fiix Prescriptive Maintenance，可以独立购买和使用，也可以与Fiix CMMS无缝集成。它还可以与公司使用的任何CMMS或EAM集成。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

进一步提升了设计、编程和部署机器人单元的便利性，同时为高级用户提供了更强大的编程工具。{ width=60% }

---

Vention，这家云机器人公司，今天发布了一套基于人工智能的功能，加入其制造自动化平台（MAP）。这些新功能立即对已经使用Vention的4000多家制造商可用，加强了该公司作为唯一一个在云中设计、自动化、下单、部署和运行自动化设备和机器人单元的端到端平台的位置。

机器人单元设计的MachineBuilder功能增强
Vention的基于云的3D设计软件MachineBuilder的最新版本带来了在过去36个月内最全面的增强套件，具有更直观和更智能的设计工具。

具体的产品功能包括：
简化的设计流程：使团队能够更快、更有信心地使用数百种机器设计模板进行工作。更智能的零件放置：在3D设计时，最小化创建机械结构的工作量。由Vention的AI驱动的几何推理引擎（GRE）提供支持，向设计中添加的组件会根据最小的用户输入自动捕捉到所需的方向。增强的零件操作：使用由上下文指导和更易发现的3D操作器驱动的新零件操作工具，减少在MachineBuilder中设计时的学习曲线。实时设计和零件规格：在零件添加到清单时，通过实时更新增加对零件和设计规格的可见性。技术规格、2D绘图等现在可以直接在3D设计环境中获得。

机器人编程能力为复杂的云应用铺平道路
Vention的MachineLogic新的无代码编程指令的发布进一步简化了用户如何在机器人单元中编程机械臂和所有相邻设备。结合新的场景资产功能，开发人员可以利用数字孪生来加速部署过程。用户现在可以在云中编程他们的机器人，然后直接将其部署到工厂生产线。
具体的产品功能包括：
点和点击机器人编程：轻松地将路径点和参考框架插入到数字孪生中。通过新的场景小部件，开发人员可以可视化场景中参考框架和路径点的位置。可扩展的工作流程和强大的创作功能：使用变量和表达式定义参数化的参考框架和路径点。校准框架：在数字孪生中定义校准框架，以实现机器人应用所需的精度水平。

直接且安全地从云端将机器人单元部署到工厂生产线
新增的即时部署功能使机器人开发人员能够将程序和机器配置从数字孪生直接传送到实际机器中，而无需中断生产。这个新功能与Vention的ISO 27001和NIST-800-171认证的MachineCloud基础设施集成在一起，加快部署过程，促进从数字孪生到现实世界的无缝重新部署，而不会影响生产。

增强用户界面创作添加到云机器人平台
Vention在其基于云的机器人编程平台中添加了Web开发工具和工作流程，使高级用户能够创建和模拟包含功能丰富操作界面的机器人应用程序。此新版本确认了Vention致力于提供一个可扩展平台，以满足机器人行业及其从业者不断变化的需求。

此外，作为其致力于满足行业需求的延续，Vention将于5月6日发表其《DIY工业自动化状况报告》的第二版。鉴于其在2023年的成功，公司决定再次对客户进行调查，以更好地了解去年揭示的趋势，如高级制造团队的出现、工业自动化平台化的重要性以及对自助服务和自助设计的偏爱。

“这些发布均关乎机器人和基于AI的设计能力的交集。与传统的3D设计和离线编程软件不同，Vention的制造自动化平台致力于利用人工智能简化设计到部署体验。凭借超过36万个自动化设备和机器人单元设计的数据集，每个都标记有丰富的几何数据和元数据，并持续投资于Vention的几何推理引擎和图神经网络，设计、自动化、下单、部署和在云中操作机器人单元的任务从未如此无缝。而这仅仅是一个开始。”–Vention创始人兼首席执行官Etienne Lacroix

有关Automate 2024的更多信息
从5月6日至9日，参观Vention的2813号展位，观看六台机器运行并参加软件演示和教育动画。

公司创始人兼首席执行官Etienne Lacroix将于5月6日两次讲话：
11:15至中午：S401cd室 – “高级制造团队和DIY工业自动化的崛起”下午1:45至2:45：Automate Show Theater – 工作组讨论：“易用性自动化如何赋予行业力量”。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

Market shift from point solutions to platforms spurs higher valuation and participation from existing and new investors
General Catalyst和7wireVentures领投，这笔投资将加速Transcarent平台的AI增强，使人们更容易获得高质量、支付得起的医疗和护理服务
Transcarent，健康和护理的唯一平台，宣布由General Catalyst和7wireVentures领投的1.26亿美元D轮融资，新投资方包括Geodesic Capital和Memorial Hermann Health System，得到了Threshold Ventures、Kinnevik、Ally Bridge Group、Human Capital、Merck Global Health Innovation Fund、Alta Partners和Leaps by Bayer等之前投资方的支持。{ width=60% }

---

此轮融资将使Transcarent的总融资额达到约4.5亿美元，估值为22亿美元。投资者对D轮感兴趣的先发制人表示了对Transcarent愿景和对削减医疗系统成本的执着承诺的信心。这些额外投资将用于加速AI能力、支持商业增长以及战略增长机会。
Transcarent行业领先的健康和护理平台使人们可以轻松获得护理服务，让雇主提供并支付护理服务变得更容易。它是唯一将医疗、手术、药房和心理保健整合到一个平台的平台。Transcarent平台连接会员到综合的护理体验，包括每日护理（包括60秒内的护理）、药房护理、手术护理（来自美国领先的医疗体系、门诊护理提供者和卓越中心）、体重健康以及端到端的癌症护理。
Transcarent首席执行官Glen Tullman表示：“每个人都问，‘您是否能让人们更容易获得高质量、支付得起的护理服务？’，我们做到了。Transcarent是健康和护理的唯一平台。”。“一个平台——您的手机——涵盖您想要和需要的一切。一种人们不仅喜欢而且热爱的体验。高质量的护理和成本降低，专注于质量。正是大夫开的药方。”
Transcarent执行主席Ken Frazier表示：“不断上涨的医疗成本给雇主带来重大压力，限制了美国的经济增长和活力。”。“我为Transcarent改进当前系统以改善雇主和雇员的系统感到自豪，他们都要求更好、更经济实惠的健康和护理体验。Transcarent取得的成果让所有利益相关者能够专注于最重要的事情：帮助雇员获得改进的健康和健康护理。”
General Catalyst的首席执行官和董事总经理Hemant Taneja表示：“我们对Transcarent的持续支持源于他们的技术，我们认为这是软件、AI、强大的数据科学和量身定制的健康指导融合的独一无二的集成。这种组合在改善健康和护理交付方面引发了真正的变革，与我们的创立使命一致：赋予数百万人在导航医疗体系复杂性方面的力量，并实现更好的健康成果。”
7wireVentures的董事总经理Lee Shapiro表示：“消费者长期以来一直被我们的医疗体系抛下。”。“Transcarent已证明把消费者放在第一位是值得的。通过让消费者参与护理，赋予他们实时信息，使他们能够做出关于自己健康和护理的最佳决策，我们看到了更高质量的结果和成本降低。”
Geodesic Capital的创始合伙人John Roos表示：“Transcarent正在为消费者和雇主扭转医疗保健成本曲线，展示了即使降低成本，也可以提供出色的护理和出色的体验。”。“Transcarent平台正在重新定义数百万美国人访问和提供护理的方式。雇主正在经历‘点解决方案疲劳’，他们知道现状是不可持续的。”。
Threshold Ventures的管理合伙人Emily Melton表示：“医疗保健创新的未来已经到来，面向消费者的平台最终将占据主导地位。”。“Transcarent运用负责任的AI的方法降低了雇主和消费者的福利复杂性，最重要的是，让患者在合理价格上得到正确的护理。”
Memorial Hermann Health System的执行副总裁、首席战略和创新官Feby Abraham表示：“通过与当地社区卫生保健提供者建立有意义的伙伴关系，Transcarent正在通过创新的基于价值的支付模式扩大为健康体系提供支持以支持国家雇主。”。“Transcarent的平台赋予雇主福利计划，使员工能够轻松从可信任的当地提供者处获得高质量的护理。”。
解决医疗成本急剧上升和相关消费者支付能力挑战的需求急迫。2022年，美国在医疗保健上花费了4.4万亿美元，预计到2031年将达到7.2万亿美元。健康支出预计2022年至2031年平均每年增长5.4%，超过国内生产总值（GDP）的增长，到2031年将占国家整体经济的19.6%。
自2022年1月的C轮以来，Transcarent推出了全面的体重健康、癌症、行为健康和药房护理体验，以及扩展了其行业领先的价值导向手术卓越中心计划。2023年，Transcarent成功收购并整合了98point6 AI动力虚拟护理平台和护理业务，其中包括关联的Transcarent诊所。此外，Transcarent推出了全国独立提供商生态系统，与12家领先的健康体系合作，为自保雇主提供更好、更经济实惠的高质量消费者体验。如今，超过430万人通过其雇主或健康计划可以访问Transcarent。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

Cyber companion, DIANNA, builds upon Deep Instinct’s prevention-first capabilities, redefining the boundaries of AI and cybersecurity。{ width=60% }

---

Deep Instinct，这家以预防为主的网络安全公司，通过专为AI设计的基于深度学习（DL）框架，在执行前阻止未知恶意软件，今天宣布推出Deep Instinct的人工神经网络助理（DIANNA），这是行业首个基于人工智能的网络安全伴侣，提供未知威胁的可解释性。DIANNA通过其专家级静态恶意软件分析增强了Deep Instinct对网络安全的预防性方法，这是市场上没有其他解决方案可以复制的。
由大型语言模型（LLM）驱动，DIANNA作为恶意软件分析师和事件响应专家的虚拟AI团队。它对所有攻击进行深入分析，包括以前从未见过的威胁，揭示文件的技术和行为，提供一个全面的故事，以促进对威胁的理解和打击，从而在入侵之前进行防范。
虽然传统的AI工具利用LLM从现有来源如日志和声誉引擎提供类似人类的总结数据，但它们没有提供未知攻击如何具有恶意性质的洞见。尽管有价值，但它们的方法只提供有限上下文的回顾性分析。Deep Instinct利用生成式人工智能，为DIANNA提供无数网络安全专家的集体知识，有效地嵌入到LLM中，以提供对未知文件的深入恶意软件分析，并以无与伦比的准确性识别恶意意图。
Deep Instinct首席执行官Lane Bess表示：“随着AI生成攻击的增加，组织不能再对网络安全采取懈怠或被动的态度。现在是用更好的AI对抗AI并提高对影响业务的未知威胁的认识的时候。”“DIANNA提供了重要的威胁可解释性，增强了我们的预防性方法，并标志着向一个更具信息化、高效和有效的网络安全环境的战略转变。”
DIANNA与Deep Instinct的DL驱动预防性功能无缝集成，通过静态分析深入了解已知和未知攻击行为。与传统的基于机器学习的工具不同，DIANNA不仅提供分类结果；它以清晰易懂的方式提供深入分析和报告。这种透明度使安全团队能够做出明智决策并有效地优先处理威胁，优化安全运营中心（SOC）的性能。它还减少了修复时间（MTTR），同时通过减少追逐虚假阳性的时间显著提高了工作满意度。
通过利用生成式人工智能的力量，DIANNA赋予安全团队以下能力：
未知威胁的无与伦比专业知识：DIANNA的静态分析超越传统方法，为面对零日攻击的组织提供前所未有的洞见。将代码意图和活动转化为自然语言：DIANNA将来自各种语言的二进制代码和脚本转化为自然语言报告。DIANNA不仅分析代码；它理解意图和潜在行为，并解释代码的设计目的，它何以具有恶意性以及对系统可能造成的影响。增强可见性：DIANNA提供对Deep Instinct预防模型决策过程的洞见，使组织能够调整其安全姿势以实现最大效果。威胁传递文件类型的专家级分析：DIANNA分析各种文件格式，包括二进制文件、脚本、文档、快捷文件和其他威胁传递文件类型。简化工作流程：DIANNA自动化了SOC分析中一些最乏味的任务，使安全团队能够专注于更具战略性的倡议。
Deep Instinct首席产品官Yariv Fishman表示：“DIANNA是安全团队的终极网络伴侣。”“有两个因素将DIANNA与其他基于AI的聊天机器人区分开来。首先，它前所未有的恶意软件分析将需要深入网络威胁专业知识的几小时工作压缩为几秒钟。其次，DIANNA对分析未知威胁，包括脚本、文档和原始二进制文件的能力无与伦比。这两种能力都建立在我们的预防性方法之上，使安全团队能够专注于真正重要的事情。”
要了解更多信息，请访问DIANNA网页，并注册我们于5月30日星期四美东时间上午11点举办的DIANNA网络研讨会。有关Deep Instinct的预测性预防能力的更多信息，请访问www.deepinstinct.com.
注意：Title、Date、Body 三个部分的内容，放入到对应的位置。最后只需要输出为Makedown源文件格式内容。

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

在大语言模型领域，微调是改进模型的重要步骤。伴随开源模型数量日益增多，针对LLM的微调方法同样在推陈出新。

---

2024年初，Meta和纽约大学等机构的研究者提出了一项「自我奖励方法」，可以让大模型自己生成自己的微调数据。研究者对 Llama 2 70B 进行了三个迭代的微调，其生成的模型在 AlpacaEval 2.0 排行榜上优于 Claude 2、Gemini Pro 和 GPT-4 等现有大模型。

奖励模型能干什么？

大型语言模型通过以逐步思考链格式生成解决方案，解决需要复杂多步推理的任务。许多研究关注如何检测和减少幻觉对于提高推理能力。其中，通过训练奖励模型以区分期望的和不期望的输出则是一种有效的方法，奖励模型可以用于强化学习流程或通过拒绝采样进行搜索。如何有效地训练可靠的奖励模型至关重要。

OpenAI 提出了人类反馈强化学习 （RLHF） 的标准方法在 ChatGPT 发布时引起极大关注。该技术模型可以从人类偏好中学习奖励模型，再冻结奖励模型并结合强化学习训练 LLM。通过使用人类偏好数据调整大语言模型（LLM）可以提高预训练模型的指令跟踪性能。但 RLHF 存在依赖人类反馈的局限性。

在此背景下，Meta 提出的「自我奖励语言模型」（Self-Rewarding Language Models， SRLMs）是一种新型的语言模型，在训练过程中利用自身生成的反馈来自我提升。自我奖励语言模型不是被冻结，而是在 LLM 调整期间不断更新，避免了冻结奖励模型质量的瓶颈。

自我奖励模型的核心思路是什么？对比传统奖励模型有什么优势？

自我奖励语言模型（SRLMs）的核心思想在于创建一个智能体，该智能体在训练期间集成了所需的全部能力，而非将任务分离为奖励模型和语言模型。这种方法允许…

这种自对齐能力使得模型能够使用人工智能反馈（AIF）进行迭代训练，提升自身组件的性能。自我奖励模型的一个关键特点是其自指令创建机制，它不仅生成候选响应，还自行评估这些响应的质量，充当自身的奖励模型，从而减少了对外部模型的依赖。这一过程通过“LLM-as-a-Judge”机制实现，即将响应评估任务转化为指令遵循任务，而模型自身创建的 AIF 偏好数据则被用作训练集。

在微调阶段，模型同时扮演“学习者”和“法官”的角色，通过上下文微调进一步提升性能。整个过程是一个迭代的自对齐过程，通过构建一系列逐渐改进的模型来实现。

与传统的固定奖励模型不同，自我奖励模型在语言模型对齐过程中不断更新，从而避免了发展瓶颈，并提高了模型自我改进的潜力。相较于传统奖励模型，自我奖励模型的优势在于其动态性和自我迭代的能力。它通过整合奖励模型到同一系统中，实现了任务迁移，允许奖励建模任务和指令遵循任务相互促进和提升。

自我奖励模型和 RLAIF 有关联吗？

RLAIF（Reinforcement Learning from AI Feedback）与自我奖励模型在思路上存在明显差异。RLAIF 采用了 AI 反馈强化学习的方法，使用 AI 而非人类来进行偏好标注，以此扩展强化学习的规模。具体来说，RLAIF 利用 LLM 生成的偏好标签来训练奖励模型（RM），随后使用该 RM 提供奖励以进行强化学习。

Anthropic 在 2022 年 12 月发布的论文《Constitutional AI: Harmlessness from AI Feedback》中首次提出了 RLAIF 的概念，并发现 LLM 在某些任务上的表现甚至可以超越人类。而在 2023 年 9 月，谷歌发表的论文《RLAIF: Scaling Reinforcement Learning from Human Feedback with AI Feedback》进一步推动了 RLAIF 方法的发展。

RLAIF 的关键步骤之一是使用 LLM 来标记偏好。研究者利用现成的 LLM 在成对的候选项中标记偏好，例如，给定一段文本和两个候选摘要，LLM 的任务是评判哪个摘要更为优秀。这种方法不仅提高了训练效率，还解决了传统 RLHF（Reinforcement Learning from Human Feedback）中因人类标注成本高昂和规模受限的问题。

RLAIF 通过 AI 反馈来增强强化学习的能力，使得模型能够处理更大规模的数据集，同时降低了对人类标注的依赖。这种方法为训练更高效、更大规模的语言模型提供了新的可能性，并有助于推动自然语言处理领域的进一步发展。

使用 AI 合成数据训模型有风险吗？最近还有谁正在做AI自我迭代？小模型监督大模型的方法好用吗？

目前，模型训练大部分的数据来自于互联网，如 Twitter、GitHub、Arxiv、Wikipedia、Reddit 等网站。随着模型的规模继续增大，人们需要投喂更多的数据来训练模型。在使用模型生成的数据来训练新模型时，会产生「哈布斯堡诅咒」或称「模型自噬」现象…

---

来源：机器之心

来源：节选自 2024 年 Week04 业内通讯

图片来源：由GPTNB生成

本文链接：https://www.aixinzhijie.com/article/6845634
转载请注明文章出处

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。

Insight将市场领先的2024年ServiceNow咨询和实施合作伙伴纳入其解决方案集成框架
Insight Enterprises（纳斯达克股票代码：NSIT）宣布收购了Infocenter，一个增长迅速的专业ServiceNow Elite合作伙伴，将一整套ServiceNow咨询、实施和托管服务添加到其自动化解决方案组合中。{ width=60% }

---

客户对智能企业自动化的需求持续增长，推动了到2025年估计达到2200亿美元的市场。作为2024年ServiceNow美洲咨询和实施合作伙伴，Infocenter与全球客户合作，实施ServiceNow能力并追求积极的数字化转型目标。
Insight总裁兼首席执行官Joyce Mullen表示：“工作流自动化已成为必要。” “我们的客户期望统一的企业跨部门体验，而凭借Infocenter深厚的ServiceNow专业知识，我们将比以往更有优势地提供以人工智能为驱动的行业领先智能工作流自动化解决方案，创造统一体验并提供有价值的见解。”
Infocenter在现代化Now Platform®上的独特方法将成为Insight的Solutions Integrator框架的一部分。Infocenter的一揽子服务和预构建的应用程序的组合始于RADIUS™业务流程分析，以帮助规划和设计定制的ServiceNow解决方案，而DEVSHOP™企业托管服务则不断提高关键业务领域的创新和效率。
Infocenter首席执行官Michael Vadini表示：“我们很高兴加入Insight，并增强他们为客户架构、交付和管理全企业变革的能力。Insight专注于提供高效的技术访问和使现代化简单化。这与我们的使命完美契合，帮助公司计划、构建和管理ServiceNow - 为各行各业的各种规模的组织带来更聪明、更快速和更好的工作方式。”
ServiceNow主席兼首席执行官Bill McDermott表示：“Insight对Infocenter的大胆举措是我们加速生态系统内业务转型的重要里程碑。我们将一起利用人工智能、工作流自动化和跨企业体验的力量，为我们共同的客户释放无与伦比的价值。”
Infocenter深厚的ServiceNow能力的加入将为Insight庞大的客户群带来加速的业务价值和赋能，与公司在Microsoft Azure、Google Cloud Platform、AWS和私有云基础设施领域的深厚多云能力相辅相成。这为Insight提供了一个绝佳的机会，帮助客户利用云超大规模提供的生成式AI和其他Now®平台增强功能。
ServiceNow全球合作伙伴和渠道高级副总裁Erica Volini表示：“Insight和Infocenter强强联手将提升ServiceNow生态系统。这是为了授权组织在数字时代蓬勃发展，利用ServiceNow平台的全部潜力推动创新，为我们的客户释放无与伦比的价值。”
有关更多信息，请访问insight.com或致电1.800.INSIGHT.

---

---

感谢阅读！如果您对AI的更多资讯感兴趣，可以查看更多AI文章：GPTNB。