关于ZAKER 合作
钛媒体 7分钟前

瑞士信息与通信科技公司 LatticeFlow AI 研发 AI 模型技术风险评估软件,提升 AI 模型合规性

图源 LatticeFlow AI

文 | 以明科技,钛媒体 APP 注:自 2011 年以来,瑞士连续 14 年全球创新指数排名第一,是全球重要的创新策源地,也是中国首个创新战略伙伴关系国,在创新发展和科技金融领域与中国具有极佳互补性。

由 Venturelab 主办的 " 瑞士创新 100 强 ",汇聚了最佳 " 瑞士制造 " 的初创及成长期科技创新企业,是瑞士最具国际影响力的创新生态标杆。自 2011 年以来,该榜单每年在瑞士全国范围内评选出 100 家最具开创性和市场前景的瑞士创新企业和 25 家最具独角兽潜力的瑞士成长期企业,覆盖生命科学、工程机械、机器人、信息通信、低碳科技、食品科技等领域。

为了全方位展示和介绍瑞士最前沿的创新科技,钛媒体 APP 与 Venturelab 的中国授权合作方以明科技(Insight Tech)合作推出《瑞士创新 100 强》专题,全面展示瑞士先锋科创生态的全景。

本文为专栏第 177 期,介绍的 LatticeFlow AI 是 2025 年《瑞士创新 100 强》上榜企业,其致力于研发 AI 模型技术风险评估软件。

瑞士信息与通信科技公司 LatticeFlow AI 成立于 2020 年,公司致力于研发 AI 模型技术风险评估软件。该软件将 AI 监管政策要求转化为可对标量化验证的技术要求,通过对 AI 模型进行全面的技术风险评估及监管对照,实现对 AI 模型合规性的技术化扫描与优化,简化 AI 模型合规管理。

LatticeFlow AI 是苏黎世联邦理工学院的衍生公司,由 Petar Tsankov、Pavol Bielik、Martin Vechev 和 Andreas Krause 共同创立。Petar Tsankov 为公司首席执行官,拥有苏黎世联邦理工学院计算机科学博士学位,曾任 ChainSecurity 联合创始人与首席技术官。Pavol Bielik 为公司首席技术官,拥有苏黎世联邦理工学院计算机科学博士学位。Martin Vechev 为苏黎世联邦理工学院教授,INSAIT(保加利亚国家计算机科学、人工智能与技术研究所)创始人。Andreas Krause 为公司科学顾问,为苏黎世联邦理工学院人工智能中心主席。

仅在 2022 年,全球产业就向人工智能系统投入了近 5000 亿美元。尽管人工智能模型在实验室环境下表现出色,但在实际应用中却常常失效,87% 的系统最终未能投入生产。其原因在于供应商无法提供用于治理、风险和合规 ( GRC ) 的可验证凭证;同时,随着《欧盟人工智能法案》的颁布,针对人工智能应用程序的法律监管不断增加,企业还面临着日益增长的监管压力。人工智能市场在全面的技术风险评估方面存在着巨大的缺口,仅靠治理流程无法满足人工智能标准和法规的要求,企业需要深入的技术验证,以确保其模型的可靠性和合规性。

LatticeFlow AI 利用经典程序分析技术,构建了世界上第一个可扩展的、稳健的 AI 系统评估软件。该软件可为任何 AI 模型提供符合监管要求的技术评估和验证,自动诊断和修复人工智能数据及模型问题,从而解决了人工智能在现实世界广泛应用的关键障碍。

LatticeFlow AI 可对涵盖性能和所有相关风险类别在内的技术内容进行持续性的深度技术评估。利用开箱即用的支持功能,LatticeFlow 能够综合评估包含性能、安全、保障、数据隐私、偏见与公平性、真实性、数据质量等在内的 AI 模型相关的各种风险,并能全面挖掘和记录所有技术证据,作为每次评估的可靠依据。此外,软件还可自动将结果汇总成可自定义的报告,供关键利益相关者查看。

LatticeFlow AI 能够将现有监管要求转化为一套标准化的技术要求,并将其解读为针对数据、人工智能模型和被测人工智能系统的具体技术和非技术控制措施。如 LatticeFlow AI 与苏黎世联邦理工学院和 INSAIT 合作设计推出的 Compl-AI,这是《欧盟人工智能法案》中针对生成式人工智能模型的评估框架。该开源框架包含对欧盟人工智能法案的技术解读,将监管要求具化为可操作的技术检查要求,帮助开发人员测试大型语言模型 ( LLM ) 是否符合欧盟人工智能法案。LatticeFlow AI 内置有包括 Compl-AI 在内的各类风险管理框架,包括欧盟人工智能法案、FINMA(瑞士金融市场监管局)、MAS(新加坡金融管理局)、OWASP、NIST AI RMF(美国国家标准与技术研究院人工智能风险管理框架)、ISO 标准、行业最佳实践以及最新研究等,用户能够利用预先打包的框架快速上手,帮助企业全面评估 AI 合规风险。

针对风险评估结果,LatticeFlow AI 会智能通过探索、比较等方式,选择数十种商用和开放式 AI 安全护栏解决方案,并分析各方案风险与性能之间的权衡,帮助用户做出明智的部署决策。此外,软件还可根据用户具体用例进行扩展,无论是部署 AI 用于聊天机器人、RAG 总结、欺诈检测、翻译或身份验证,LatticeFlow 都支持高可扩展性和自定义用例。

从 GenAI 风险评估到第三方 AI 系统审查,LatticeFlow AI 将合规政策解读为最深层的技术要素,生成可供验证和审计的凭证,用于合规监管、风险审查和董事会层面的决策。LatticeFlow AI 目前已与全球安全服务提供商 Jumio、瑞士最大的可再生能源供应商 Axpo、Actuate、 Athena AI 等建立了合作关系,帮助企业提升模型性能、可靠性及精准度,推动业务高效运行。

2022 年 10 月,LatticeFlow AI 完成了 1200 万美元的 A 轮融资,Atlantic Bridge 和 OpenOcean 领投,FPV Ventures 跟投。未来,公司将会把业务范围拓展至制造、医疗保健、零售与安全行业。

2025 年《瑞士创新 100 强》中文版由以明科技(Insight Tech)荣誉发布。以明科技是《瑞士创新 100 强》的中国授权合作方,负责《瑞士创新 100 强》在中国的运营推广并协助榜单项目对华商业合作。以明科技是中欧(瑞士)产业创新合作服务商,致力于以创新加速器、股权投资和商业咨询服务,促进瑞士创新中国化和中国产业国际化。

获取《瑞士创新 100 强》完整榜单及行业榜单,请访问以明科技公号或官网。

相关标签

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容