人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
勇担实现高水平科技自立自强的时代使命******
党的二十大报告提出，坚持创新在我国现代化建设全局中的核心地位，加快实现高水平科技自立自强，加快建设科技强国。现在，世界新一轮科技革命和产业变革迅猛发展，我们既面临难得的历史机遇，又面临严峻挑战。我们只有加快实现高水平科技自立自强，才能在这场激烈的科技竞争中占有先机，把握住这千载难逢的历史机遇。本期光明网理论学术动态导读关注“科技自立自强”这一主题，欢迎网友踊跃参与讨论。 把握推进新时代科技强国事业“靠什么自立”“何以自强”关键命题。当前，科技创新成为国际战略博弈的主要战场，围绕科技制高点的竞争空前激烈，我们必须深刻把握推进新时代科技强国事业“靠什么自立”“何以自强”等关键命题，勇担服务高水平科技自立自强的时代使命。一方面，我们“靠什么自立”？一是重源头创新：加强应用牵引的基础研究。我们要始终保持强烈的忧患意识、机遇意识，牢牢把握当前和未来一段时期我国科技事业发展的主要矛盾，集聚力量进行原创性引领性科技攻关。二是抓关键核心：推进关键核心技术合力攻坚。我们要坚持问题导向，紧跟发展全局急需、国家安全急需、产业前沿急需，身先士卒投身和推动创新链产业链融合，合力打造高效强大的共性技术供给体系。三是建自主体系。我们要大力弘扬科学家精神，以中国特色、中国风格、中国气派的学科体系、学术体系、话语体系推动科技创新事业蓬勃发展。另一方面，思考我们“何以自强”？一是强核心力量：强化国家战略科技力量。我们要全面、系统、准确把握国家战略科技力量的内涵和外延，深刻把握科技工作对接多样化动态化国家战略的整体机制。二是强开放融合：深度参与全球科技治理。我们要深刻把握构建新发展格局对我国参与全球科技治理提出的新要求，助力我国通过创新产业转移和关键资源引进，加速调动内外创新驱动力。三是强第一资源：构筑科研创新人才高地。我们要始终坚定“我国教育是能够培养出大师来的”强烈自信，争做提携后学的铺路石和领路人。详情 以国家战略需求为导向，聚焦自立自强全面提升创新活力。科技创新是百年未有之大变局中的一个关键变量，我们要坚持创新在我国现代化建设全局中的核心地位，抢抓新一轮科技革命和产业变革的重大机遇，聚焦自立自强全面提升创新活力，为经济社会高质量发展提供更加澎湃的动力。一方面，聚焦体系建设，打造创新主体合力。要着力提升国家创新体系整体效能，畅通创新资源在各个创新主体之间、创新链条之间、创新环节之间的流通渠道；要加快形成支持全面创新的基础制度，创新研发创新平台和产业技术研究院建设模式。另一方面，立足基础研究，增强自主创新能力。要着力提高基础研究能力和水平，集聚力量进行原创性引领性科技攻关；要着力实施企业技术创新能力提升行动，实施更大力度的研发费用加计扣除、激励科技型中小企业创新的税收优惠等普惠性政策。同时，着眼关键领域，提高科技成果转化和产业化水平。要促进技术成果与重大需求相结合，强化企业主导的产学研深度融合，既要加大新一代信息通信技术、生命健康技术、智能芯片技术等领域关键节点的研发攻关力度，还要面向重点产业、新兴产业，着力推进创新链产业链资金链人才链深度融合。详情 新时代的优秀科技文化是实现高水平科技自立的深厚土壤。建设世界科技强国、实现高水平科技自立自强是党中央在新的历史方位作出的重大决策，而科技文化是建设世界科技强国、实现高水平科技自立自强的重要内容。中华民族素有文化自信的气度，坚定文化自信体现的正是中国精神、中国价值和中国力量。有了这种文化自信，我们就有了科技文化创新的定力，就有了科技文化创新的方向。事实上，世界科技强国的崛起都是以科技文化的发展繁荣为前提和基础的，因此，适应建设世界科技强国的需要，科技文化创新必须坚持目标导向与问题导向相统一、立足国内与全球视野相统筹，不断增强科技文化创新的主动性和自觉性，努力塑造符合新时代特点，满足经济社会发展要求，能够引领和支撑建设世界科技强国、实现高水平科技自立自强的现代科技文化。详情 教育、科技、人才一体化推进助力实现高水平科技自立自强。必须坚持走中国特色自主创新道路，教育、科技、人才一体化推进，加快实现高水平科技自立自强，打通从科技强到产业强、经济强、国家强的通道。一方面，教育、科技、人才一体化推进，是关乎国家和民族长远发展的重大战略擘画。改革开放以来特别是党的十八大以来的实践证明，建设社会主义现代化国家、推进中华民族伟大复兴，基础在教育、关键是科技、归根结底靠人才。另一方面，教育、科技、人才一体化推进，是在国际竞争中占据先机和优势的必然要求。当前，世界之变、时代之变、历史之变正以前所未有的方式展开，新一轮科技革命和产业变革迅猛发展，教育、科技、人才都是衡量一个国家综合国力的重要指标，我们必须以更大的力度、更实的举措，确保教育、科技、人才一体化推进，使我国拥有教育发展优势、科技比较优势、人才竞争优势。同时，教育、科技、人才一体化推进，是推动我国经济社会高质量发展的大势所趋。从全球范围和我国实际看，教育、科技、人才同经济社会发展加速渗透融合，教育、科技、人才一体化推进，是推动经济社会高质量发展的迫切要求和强大驱动，必须始终把教育摆在优先发展的战略位置，坚持走中国特色自主创新道路，全方位支持人才、帮助人才，千方百计造就人才、成就人才。详情 多措并举推动科技自立自强。推动技术标准与知识产权协同创新，是我国塑造发展新动能新优势、实现高水平科技自立自强的关键抓手，需不断明确标准与知识产权协同推进科技自立自强的前进方向，多措并举推动科技自立自强。第一，科技自立是科技自强的前提，实现高水平科技自立自强必须解决好关键核心技术领域的“卡脖子”问题。鼓励多元创新主体开放协作，部署应急攻关科技项目；完善科技自立的顶层设计与制度安排，通过全局性部署科技产业发展脉络。第二，科技自强是科技自立的进一步跃升，是国家科技实力的总体表征，实现高水平科技自立自强需要不断提升国家科技创新力和影响力。在创新力层面，注重科技产业的基础研究部署与前沿科技探索；在影响力层面，积极参与国际标准及规则制定。第三，实现高水平科技自立自强，需要战略性谋划标准与知识产权协同创新，通过关键技术路线攻关提升未来产业的专利质量以获得技术领先，通过标准创新网络构建提升未来产业的合法性地位以获得市场认可，提升未来产业国际市场话语权。第四，实现高水平科技自立自强需要部署国际和区域标准体系，进一步深化国家技术标准创新基地建设，鼓励国家标准创新网络构建，大力推进中外标准互认，构建与国际标准兼容的标准体系。第五，进一步完善标准与知识产权协同推进科技自立自强的保障机制，鼓励科技产业政策中融入更多有关标准参与和知识产权联营等方面的操作引导，加快标准、知识产权、技术市场等科技服务行业发展。详情 （光明网记者 赵宇整理）
|
