点击右上角
微信好友
朋友圈
请使用浏览器分享功能进行分享
人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
我国空间新技术试验卫星第二批科学与技术成果发布****** 记者从中科院微小卫星创新研究院获悉，我国“创新X”系列首发星——空间新技术试验卫星第二批科学与技术成果近日发布。这批成果主要包括获得我国首幅太阳过渡区图像、探测到迄今最亮的伽马射线暴、首次获得全球磁场勘测图等。 01 46.5nm极紫外成像仪获得我国首幅太阳过渡区图像 46.5nm极紫外太阳成像仪(SUTRI)是国际首台基于多层膜窄带滤光技术的46.5nm太阳成像仪，用于探测50万度左右的太阳过渡区(太阳色球与日冕之间的层次)，由国家天文台联合北京大学、同济大学、西安光学精密机械研究所和微小卫星创新研究院共同研制。自2022年8月30日载荷开机以来已经获取了超过1.6TB的探测数据，成功实现了我国首次太阳过渡区探测。这也是人类近半个世纪来首次在46.5nm波段拍摄太阳的完整图像。SUTRI拍摄的图像清晰地显示了过渡区网络组织、活动区冕环系统、日珥和暗条、冕洞等结构(如图2)，这些结构的观测特征表明，SUTRI拍摄的确实是从太阳低层大气往日冕过渡的结构，符合预期。SUTRI已探测到多个耀斑、喷流、日珥爆发和日冕物质抛射事件(如图3)，表明其数据适合研究各种类型的太阳活动现象。此外，SUTRI还发现活动区普遍存在50万度左右的、朝向太阳表面的物质流动，这些流动在太阳大气的物质循环过程中占有重要地位。目前SUTRI一切功能正常，在轨测试和标定结束后，SUTRI观测的科学数据将向国内外太阳物理和空间天气同行全部开放。
△图1 “创新X”首发星——空间新技术试验卫星(SATech-01)
△图2 SUTRI在2022年9月29日观测到的太阳活动图(图片由SUTRI科学团队提供)
△图3 SUTRI在2022年9月23日观测到的一次太阳爆发事件(图片由SUTRI科学团队提供) 02 高能爆发探索者(HEBS)捕获到迄今为止最亮伽马暴 由中科院高能物理研究所研制的高能爆发探索者(HEBS)于北京时间2022年10月9日21时17分，与我国慧眼卫星和高海拔宇宙线观测站同时探测到迄今最亮的伽马射线暴(编号为GRB 221009A)。根据HEBS的精确测量结果，该伽马暴比以往人类观测到的最亮伽马射线暴还亮10倍以上。由于该伽马射线暴的亮度极高，国际上绝大部分探测设备均发生了严重的数据饱和丢失、脉冲堆积等仪器效应，难以获得精确测量结果。HEBS凭借创新的探测器设计以及新颖的高纬度观测模式设置，探测器经受住了高计数率的考验，获得了高时间分辨率的光变曲线，以及10千电子伏至5兆电子伏的宽能段能谱。HEBS极为宝贵的精确测量结果对于揭示伽马射线暴的起源和辐射机制具有重要意义。 国家天文台和上海技术物理研究所研制的EP探路者龙虾眼X射线成像仪(LEIA)于10月12日也成功对这一伽马射线暴开展了观测，探测到了伽马射线暴X射线余辉。这也是国际上首次用龙虾眼型X射线望远镜探测到伽马射线暴。
△图4 高能爆发探索者(HEBS)发现并精确测量迄今最亮的伽马射线暴，打破多项纪录。 03 国产量子磁力仪首次空间应用并获得全球磁场图 由中国科学院国家空间科学中心和沈阳自动化研究所联合研制的国产量子磁力仪(CPT)及伸展臂，可实现全球地磁矢量和标量高精度测量。2022年11月7日，多级套筒式无磁伸展臂顺利展开，将各传感器探头伸出约4.35米距离，处于伸展臂顶端的CPT原子/量子磁力仪探头、AMR磁阻磁力仪探头、NST星敏感器获取了有效探测数据，首次在轨验证了磁场矢量和姿态一体化同步探测技术，磁测量噪声峰峰值<0.1nT，实现了国产量子磁力仪的首次空间验证与应用。
△图5 CPT磁测系统“多级套筒式无磁伸展臂”地面展开测试(图片由沈自所、空间中心和卫星团队提供)
△图6 量子磁力仪首张全球磁场勘测图(图片由空间中心太阳活动与空间天气重点实验室提供)
△图7 NST星敏感器相对于卫星本体的姿态数据(图片由空间中心和中科新伦琴NST星敏团队提供) 04 空间载荷、平台新技术成果丰富 由中国科学院长春光学精密机械与物理研究所空间新技术部研制的多功能一体化相机，首次采用基于共口径多出瞳光学系统新体制，在轨实现集可见光、长波红外、彩色微光于一体的空间光学遥感观测。相机于2022年9月24日开机，成功取得首张170km×42km大幅宽地面遥感图像(如图8)，探索了单台相机即可同时实现多谱段多模态遥感成像的新模式，为我国未来高集成度一体化空间光学遥感载荷发展提供了技术储备。
△图8 多功能一体化相机对地宽幅遥感成像图(图片由长春光学精密机械与物理研究所提供) 由中国科学院半导体研究所、自动化研究所、微小卫星创新研究院及浙江大学航空航天学院空天信息技术研究所联合研制的异构多核智能处理单元也取得了首批成果。半导体所的低功耗边缘计算型智能遥感视觉芯片，实现了遥感图像的高速智能化目标检测；自动化所的通用智能系统验证了基于高速交换网络的异构多处理器模块化、弹性化硬件架构；浙江大学的国产AI系统装载了细胞分割算法和飞机识别算法，数据结果与地面孪生系统数据一致，在功耗10瓦条件下算力达到22Tops，验证了国产AI器件的在轨智能图像处理能力。
△图9 边缘计算型遥感视觉芯片检测遥感目标示意图(图片由中科院半导体所提供) 中科院微小卫星创新院的可展收式辐射器成功在轨实现首次应用，辐射器执行机构已顺利完成六十余次展开和收拢动作，连续五轨动态试验结果(如图10)表明环路热管-可展收式辐射器集成系统在负载工作时段启动性能良好，辐射器连续展开-收拢可实现散热能力在轨大范围调控。
△图10 环路热管-可展收式辐射器集成系统连续五轨智能热控测试结果 国家空间科学中心研制的空间元器件辐射效应试验平台载荷开机运行良好，搭载的元器件在测试期间均工作正常。 “科学与技术成果的涌现体现了我们对这颗卫星‘创新X，创新无极限’的定位，开创了新技术众筹模式的先河。”“力箭一号”工程副总师兼卫星系统总师张永合说，“这些新载荷、新技术产品都是各参与方自主投入的，不少是从0到1的创新，通过试验星将创新技术快速集成并飞行验证，可以加快核心关键技术从基础研究到在轨应用的成果转化。” 2022年7月27日12时12分，由中国科学院自主研制的迄今我国最大固体运载火箭“力箭一号”(ZK-1A)在酒泉卫星发射中心成功发射，采用“一箭六星”的方式，将“创新X”系列首发星——空间新技术试验卫星等六颗卫星送入预定轨道。2022年9月5日，空间新技术试验卫星(SATech-01)发布了首批科学成果，包括龙虾眼X射线成像仪(LEIA)的国际首幅宽视场X射线聚焦成像天图，伽马射线暴载荷(HEBS)的首个伽马暴等。 作为我国“创新X”系列的首发星，未来一段时间，空间新技术试验卫星搭载的几种新型推进系统等载荷也将开展在轨试验，卫星上的四个科学载荷也已进入常规化观测，陆续将会获得更多科学和技术成果。 (总台央视记者 帅俊全 褚尔嘉)
|
)