谷歌。（图：路透社）
数码发展及新闻部与美国网络巨头谷歌，将通过全新的国家人工智能伙伴关系（National AI Partnership）扩大长期合作，包括利用人工智能解决社会问题、培养具备人工智能知识的人才、推动企业创新以及打造安全可信的生态系统。
数码发展及新闻部与谷歌昨早（20日）发表联合文告表示，医疗与生命科学领域是合作重点之一。谷歌DeepMind将探索与本地公共医疗机构合作，研究人工智能辅助临床系统，协助医生提升医疗服务质量。
同时，谷歌DeepMind也将与国家研究基金会（NRF）合作，为本地研究人员提供有关人工智能代理方面的培训，并举办相关工作坊。
此外，谷歌也会与科技研究局（A*STAR）的合作，为研究人员提供基于谷歌云的安全人工智能工具，来进行科研分析，加速将实验室研究成果转化为高价值的创新产品。
在推动包容性创新方面，谷歌DeepMind也同新加坡协助残障者自立局（SG Enable）合作，对一款协助视障者跑步的辅助工具进行测试与优化。
培养具备未来技能的劳动力
教育方面，谷歌将与教育部扩大合作，加强人工智能在教学与学习中的应用，包括教师培训与技能提升。
谷歌也将继续推动旗下多项计划，推动全民人工智能能力建设，为求职者、创业者及年长者等不同群体提供相关培训，同时协助本地企业加速人工智能转型。
文告指这项伙伴关系也将支持我国成为全球人工智能中心的愿景，推动建立负责任部署人工智能所需的安全框架与工具。
双方也将推动人工智能治理与安全研究，包括测试人工智能代理在现实环境中的应用与风险。
沙盒测试白皮书 揭露人工智能代理利与弊
谷歌、网络安全局、政府科技局及资讯通信媒体发展局也联合发布白皮书，探讨人工智能代理系统的治理建议及最佳实践。白皮书了总结去年8月展开、为期四个月的沙盒测试。
沙盒测试中的其中一个应用场景是利用人工智能代理协助公众申请社会援助，简化复杂的程序。
测试发现，人工智能代理有能力引导申请者或社工完成申请步骤，有助减少因为申请过程中出错、出现遗漏或信息不完整，而需要人工协助、拨打热线求助和人工跟进的可能性，进而减少所需投入的资源。
但测试也发现，人工智能代理可能被诱导执行预期以外的操作，包括远程代码执行。人工智能代理直接处理个人资料，也存在隐私泄露或数据外泄的风险。
报告建议从两方面着手，首先就是通过受控测试与循序渐进的现实部署、为不同风险程度的行为制定不同的审批或检讨程序、确保人工智能代理的安全性，以及在灵活性和控制之间保持平衡，加强人工智能代理的信任和韧性。
长期的举措则包括：克服当前人工智能代理科技的技术局限；探讨多个代理协作审查、评估并优化输出结果的潜力；建立人工智能代理所需的数码基础建设；以及在隐私和个人化服务之前取得平衡。
谷歌云亚太区人工智能与网络安全政策负责人蔡昌说：“我们的目标其实是帮助新加坡政府了解，如何通过运用人工智能代理来让公共服务模式转型。我们也希望借此机会，深入探索如何利用人工智能代理来改善人民的生活。这是我们今天与新加坡政府共同启动的更广泛国家人工智能合作计划的一部分，以探索如何运用前沿人工智能技术带来公共利益。”
