韩国人工智能验证院与奥地利AIT合作开发AI可信性验证平台
2026年11月16日 · 阅读 1 分钟
韩国人工智能验证院与奥地利技术研究所(AIT)联合开发一个国际共同验证平台,该平台将评估从人工智能模型到AI代理的可信性与安全性。此次合作旨在应对欧洲联盟人工智能法(EU AI Act)等国际标准,支持韩国AI企业开拓海外市场。
这项研究由中小企业部的2026年全球研发合作项目推动,韩国人工智能验证院作为主导研究机构,AIT的数字安全与安全中心参与其中。研究期限为2023年7月至2029年6月,为期三年。
双方计划开发一个能够客观评估AI模型的准确性、偏见性、稳健性和安全性的测试与验证平台,并提供可在企业内部环境中运行的本地解决方案。尤其是将着重于建立符合EU AI Act、美国国家标准与技术研究所(NIST)的AI风险管理框架(AI RMF)及国际标准ISO/IEC 42001的评估体系。
此次合作将AI代理的可信性验证与评估自动化纳入技术应用范围,提升AI系统在实际工作环境中的验证能力。韩国人工智能验证院利用其作为韩国认可机构(KOLAS)积累的软件、AI模型及学习数据测试经验,AIT则将其在数字安全领域的研究能力结合进来。
此次研究将帮助韩国AI企业在国际市场中满足对可信性评估与技术验证的需求,随着欧洲AI监管体系的逐步实施,AI系统的风险管理、评估及技术文档的重要性愈发凸显。双方计划开发符合国际规范的验证技术,帮助企业提前检查相关要求。
韩国人工智能验证院将把研究成果与现有的测试与验证服务结合,并扩大后续的国际研究合作与国内外AI企业的技术合作。