人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
【动画】打开App随时能看家乡街景?此文为证,处处是坑!****** 【万万没想到!App花样套路大解密①——街景地图篇】 “地图实时导航、地图免费,3秒就让你看到自己的家乡”“使用街景地图,还能看到全球各地的大街小巷”“体验VR360度全景沉浸式游览”……这类街景地图App的广告宣传,吸引了不少网友眼球。 前段时间,有权威媒体报道,有不少宣传能“随时随地看到家乡街景”的街景地图类App广告出现。然而,这类街景地图App的实际使用体验与广告宣传严重不符,存在恶意欺诈消费者的现象。 市民王先生下载了某款街景地图软件。软件的主界面提供了“家乡街景”“高清街景”“VR全景”等多个功能选项,并在显著位置标明了推荐套餐和价格,分别是3个月38元、1年68元和终身使用98元。 王先生选择了终身使用套餐并完成支付。然而,让他失望的是,软件并没有提供其老家住所的高清街景,甚至连县城的照片都十分模糊,与广告和简介中的描述完全不符。 在多次尝试失败并联系客服退款无果后,王先生向相关部门投诉。 根据王先生提供的线索,当地警方调查发现,该软件提供的“高清实时街景”实际上都是网络收集来的公开免费视频或者图片,既非高清也不是实时,有的甚至直接链接到其他地图软件,涉嫌欺诈犯罪。 日前,由安天移动安全发布的《移动互联网风险应用白皮书(2021)》提到,这类街景应用主要是通过收集国内外免费的城乡道路街景、精选景区全景图等数据资源,向用户收取费用的方式来获得盈利。 这类应用通常宣称让在外的人能看到家乡的父母、或者虚构帮助寻找走失的宠物等情景,作为应用的核心功能,利用这些人群的思乡情怀,吸引其下载安装使用。 ●存在明显虚假夸大的广告推广内容,与实际提供的产品服务不符 当用户打开应用后,往往发现“免费使用”的宣传不实,使用卫星实景不仅需要开通会员,而且会员价格也不低。 不仅如此,部分街景地图类应用还用显眼的广告标识提示用户仅需每天几毛钱即可开通会员,但这类应用往往无法单独开通一天的会员,用户被要求必须一次开通数月甚至全年会员,应用却只用不易识别的字体标出实际需要支付的会员价格,用户稍不留意就可能上当。 甚至,当用户开通VIP后也没有达到预期使用效果。有的街景应用宣传中的实景街景出现虚假,实际上应用内的街景不但非实时,还出现许多地方没有对应的街景等与宣传不符的情况,严重侵害用户权益。 在黑猫投诉平台上搜索关键词“街景地图”,显示有600多条投诉信息,问题主要集中在 App“虚假宣传”与“退款难”等方面。 ●存在非法使用第三方数字资产的侵权行为 安天移动安全有关负责人分析,从实际来看,这类应用通常是直接调用百度、高德等地图接口,甚至是盗用Google街景数据做成镜像服务,然后打包而成的应用,其根本无法实现和宣传推广广告文案相关的用户服务功能。 从应用技术实现来看,该类应用既没有技术创新性,还涉及存在非法使用第三方数字资产的侵权行为。 从行业发展来看,应用开发者设置的所谓收费服务项目条款存在霸王条款和缺乏法律约束,并且一旦通过盗用方式获得的数据资源被供应方限制引用,则应用提供的服务将被停止,最终导致付费用户遭受经济损失。 @所有人,注意 注意 注意了!!!☞☞ 对于消费者遭遇的货不对板与退款问题的问题,法律专家提醒,商家明显知道自己没有能力提供全国各城市的街景地图,更没有能力提供街景的实时街景地图,而诱导消费者去购买地图,已经违反了我国民法通则以及消费者权益保护法等法律法规的规定。 另外,商家以一个显著的位置,以一个大号字体全年会员0.01元,诱导消费者购买,但实际上以更小的字体在不显眼的地方标明全年的会员价168元,具有明显恶意欺诈成分。 互联网界专家提醒,从资质、采集技术到成本投入,街景地图都有较高的行业进入门槛。街景地图、卫星测绘以及本地化的街景实景拍摄,都有明确的法律法规约束,并不是市面上每一家企业都拥有合法依规的街景采集资质,如果没有这些相关资质的保障,大家还是不要使用相关的产品和应用。(部分内容综合自法治日报、央视财经等) 监制:张宁 策划:李政葳 制作:黎梦竹 (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |