新闻中心
人工智能技术迅猛发展AI信任问题如何破解?
说到AI,首先你会想到的是什么?是九段天才棋手柯洁大战AlphaGo?是自动驾驶?还是跟朋友聊到某个话题时手机秒推送的同类广告? 抑或是让父母都认不出来的“易容神器”?
从1950 年图灵之问到如今产业的蓬勃发展,人工智能技术早已渗透到人们生活的方方面面。但迅猛发展的背后,那些因“黑盒模式”引发的技术不可控、数据安全、隐私泄露等问题却时有发生。人们似乎对人工智能技术的“无所不能”,从最初的全面肯定转变为冷静后的困惑、担忧与思考。面对科技高速发展带来的信任危机,人们究竟该如何应对?
首先,我们要搞清楚,何为可信任AI?“可信任AI实际上是通过底层技术框架解决人工智能应用过程中可能存在的多类问题,由此建立可靠的人工智能生态。”中国信息通信研究院华东分院人工智能与大数据事业部主任陈俊琰在12月14日举办的“谈云说AI”技术产业沙龙上表示。
事实上,近年来人脸识别被黑产盯上、买卖隐私信息等各类围绕用户个人隐私数据产生的安全问题常见报端,公众对于隐私保护、数据安全等问题关注程度也在不断提高。“如今信息多源且无法在短时间内追本溯源,如果数据使用存在监管漏洞就会直接导致个人隐私泄露甚至产生直接财务损失。”陈俊琰进一步分析了目前AI技术中的信任危机。
与此同时,AI信任危机还可能引发比较严重的人身安全问题。“由于AI技术处在一种黑盒模型基础上,在一些关键领域,例如医疗诊断、自动驾驶等这种性命攸关的行业中,如果出现信任危机就会产生十分可怕的后果。”京东探索研究院的算法科学家何凤翔分析说,这些危机会对行业发展、应用落地,都会产生巨大影响。
在此背景下,寻找人工智能时代隐私保护、政府监管、商业诉求的平衡点,已经成为产学研各界迫切需要解决的问题。华控清交信息科技(北京)有限公司标准负责人、战略总监王云河则认为,在推进可信AI建设的过程中需要各方共同努力。“从法律层面来说,目前有数安法和个保法来为数据安全提供保障,这是可信任AI的硬手段;下一步就是完善行业标准化,可以被认为是可信任AI的软措施,二者缺一不可、相辅相成。”
谈及近年来国际上可信AI的相关政策或者是标准落地情况,陈俊琰总结道:“目前国际上主要是以指南及法案的形式对人工智能的可信度进行规范,例如2018年《可信人工智能伦理指南草案》的发布、2019年《可信赖人工智能道德准则》等;同时也有在标准制定上的探索,例如构建人工智能管理框架,对可信AI进行监管以提升信赖度。比方说今年发布的《关于识别和管理人工智能歧视的标准提案》、《人工智能风险管理框架》等。”尽管国外的可信AI做到了法规和标准先行,但也存在不够灵活,容易产生’一刀切’的问题。
对此何凤翔则指出,随着人工智能可信理念逐渐成为全球共识,在可信AI的技术攻关和标准研制方面,京东探索研究院和信通院白皮书的思路一脉相承,它要确保人工智能的公平性、可解释性、稳定性和隐私保护的同时,保障算法可被人信任,而这也将成为未来人工智能产业健康发展的必由之路。“京东从基础理论出发来研究最前沿的问题,从这些理论问题、理论结果出发,设计新的可被信赖的全新AI算法,再尝试把这些AI算法应用到产品中去,完成技术的最终落地。”
与会专家们纷纷表示,目前无论是理论研究还是产业实践,可信任AI都还有很长的一段路要走。“可信AI涉及范围广泛、实操任务复杂,很难由一家企业或者机构凭借一己之力带来质的创造与飞跃,所以产学研用全链条协作是关键;未来业界需构建成熟且开放的生态系统,聚众家之力才能带来更多技术、标准以及实践层面的突破。”何凤翔说。
综合来看,目前我国在可信AI建设方面,正在从政策、生态、法律、标准制定等方面综合发力,例如《国家新一代人工智能标准体系建设指南》、《促进可信人工智能发展倡议》等文件的出台。乐鱼体育入口除了监管部门的通力合作,以信通院、京东为代表的重要机构以及头部企业,都在努力推进行业倡议、标准研制等工作,未来定会有更多积极进展。
这项赛事由拼多多、光明食品集团、中国农业大学、浙江大学共同主办,旨在为植物工厂降本增效和产业化发展集智聚力。
这一私域大模型以在轨卫星管理专业知识库为基础,搭建航天器操控平台,通过语音、文本互动,即可完成航天器在轨管理、航天器管理人员培训,助力卫星高效智能管理。
比赛中,残疾人选手将操纵义肢手抓取多种物体,但由于残疾人控制义肢的信号源非常有限,确保手指、手腕的可靠运动成为需要攻克的问题。
部分癌症发生在天生携带罕见基因序列变异的人群中,发现此类变异可改善早期癌症检测及促进靶向疗法发展。
10月下旬,西藏那曲市安多县三江源自然保护区唐北区域,温度已降至-10℃左右。“
吉林发现罕见东北红豆杉古树群 个体密度大、种群结构完整、有6株千年古树
近日,科研团队在开展古树名木调查过程中,在吉林省延边朝鲜族自治州和龙市境内的长白山原始森林中,发现大片以珍稀濒危植物东北红豆杉为骨干树种的天然群落。
从“首秀”“首展”看医疗领域前沿“黑科技”——进博会医疗器械及医药保健展区前瞻
今年进博会,医疗器械及医药保健展区将集聚全球十大医疗器械企业、十一家世界500强制药企业,大量“首秀”“首展”亮眼。
走进玉门风电场“风电长廊”展厅,一幅幅图片、一段段影像、一件件展品,详细介绍了全球风电、中国风电、甘肃风电发展历程及现状。
美国一项新研究显示,一种关键洋流的减缓可能会在本世纪末使预计的北极变暖幅度下降约2摄氏度。研究人员还警告说,大西洋经向翻转环流减缓还可能引发其他气候异常,例如可能导致热带辐合带的变化。
据了解,目前定位于高端、个性的冰箱,多使用智能玻璃面板,而中低价冰箱仍有不少是传统面板。
汽车后市场在规范化的基础上,借助智能化技术的赋能,正逐步实现服务的升级转型,为消费者带来更加专业、便捷、个性化的服务体验。
新质生产力具有引领新一轮科技革命的质态特征。“人工智能+”作为新一代数字技术集合体,以数据、算法和算力为核心要素,驱动科技革命实现从孤岛走向连接、从初级走向高阶、从工具走向价值的全面升级,展现出超越工业经济时代的技术能级。
生成式人工智能在人机交互领域展现出的强大自主性和泛化能力,让人们越来越感觉到与人工智能的交流就像是和另一个人交谈。
科学普及是推动创新发展不可或缺的“一翼”,建设高水平科普人才队伍是壮大“科普之翼”的关键。我们相信,通过深入实施、不断完善这一制度,必将推动优秀科普人才持续涌现,为科技创新与科学普及“两翼齐飞”提供强劲动力。
我国第四批预备航天员已于今年8月入队参加训练,不仅要执行空间站任务,未来也将执行载人登月任务。
由中国航发完全自主研制、具备国际竞争力的900千瓦级涡桨发动机AEP100,于日前成功配装全球最大无人运输机——白鲸航线
党的二十届三中全会审议通过的《中央关于进一步全面深化改革、推进中国式现代化的决定》提出,高质量发展是全面建设社会主义现代化国家的首要任务。必须以新发展理念引领改革,立足新发展阶段,深化供给侧结构性改革,完善推动高质量发展激励约束机制,塑造发展新动能新优势。
2023年中国创新指数测算结果显示,2023年中国创新指数达到165.3(以2015年为100),比上年增长6.0%,保持稳步增长态势。
该项目研究团队由合肥综合性国家科学中心人工智能研究院、中国科学技术大学、本源量子计算科技(合肥)股份有限公司(以下简称“本源量子”)等单位组成。