AI伤害人时由谁负责
加利福尼亚州陪审团可能很快得决定2019年12月 一个人驾驶Tesla人工智能驱动系统特斯拉驱动数年监禁鉴于此事件都行国家公路交通安全局和国家交通安全局正在调查Tesla碰撞事件,NHTSA最近已调查扩展探索驱动程序与Tesla系统交互国战线加利福尼亚州正在考虑限制Tesla自主驾驶特征的使用
当前责任体系-我们判断责任和支付伤害的系统-完全没有准备AI责任规则设计时,人类引起大多数错误或伤害因此,大多数责任框架对终端用户医生、驱动人或造成伤害的其他人实施惩罚。使用AI时,错误可能发生 完全没有人输入责任系统需要相应调整不良责任策略会伤害病人、消费者和AI开发商
支持科学新闻
如果你喜欢这篇文章 考虑支持我们获奖新闻 签名程序.通过购买订阅服务 帮助确保未来 影响性故事 关于发现和思想 塑造今日世界
思考责任时间现在是-正因为AI变得无所不在,AI基础系统已经促成了伤害2018年行人阵亡由自驾驶Uber车驱动出错有争议,但AI检测不出行人18新利官网多久了最近,AI基础心理健康聊天机鼓动模拟自杀病人自寻死路AI算法受歧视对比女性申请人复发在一个特别戏剧性的例子中 AI算法误辨疑犯严重攻击 导致错误抓捕然而,尽管有错误步骤,AI保证对所有这些领域进行革命
获取责任全景对释放AI的潜力至关重要不确定性规则及潜在代价诉讼会抑制对AI系统的投资并开发并采用AI系统18新利官网多久了保健、自主车辆和其他行业更广泛地采用AI取决于框架判断谁最终对人工智能系统造成的伤害负赔偿责任
AI挑战传统责任举个例子,当黑盒算法-变量特征和权重动态变化,无人知道预测内容-建议处理最终造成伤害或鲁莽驾驶汽车后人驱动方才能响应时,我们如何分配责任?真的是医生或司机的错公司创建AI故障18新利官网多久了卫生体系、承保人、制造商、监管者-如果他们鼓励采用,应负什么责任?这些都是未解答问题,对确定消费者产品中负责任使用AI至关紧要
和所有干扰技术一样,AI强AI算法,如果适当创建测试,可帮助诊断、市场研究、预测解析和需要分析大数据集的任何应用A级最近的McKinsey全球调查显示全球超过半数公司报告例常操作使用AI
责任往往聚焦最简单目标:使用算法的终端用户责任查询往往从汽车司机崩溃开始结束或由医生错误处理决定
归根结底,如果终端用户误用AI系统或忽略其警告,他或她应负赔偿责任AI错误往往不是终端用户的过错可责怪急救室医生 AI算法忽略a视网膜膨胀?AI检测失败会延迟护理并可能导致病人失明Papiledema挑战非眼科检查诊断,因为更多的临床数据,包括脑成像和视觉敏锐性,常需作为研究的一部分尽管AI跨行业具有革命潜力,但如果终端用户对潜在致命错误负唯一责任,则会避免使用AI
完全归责AI设计师或收养者解决不了问题设计师创建算法可特斯拉事故特斯拉故障在产品发布前通过更多测试解决吗?确实,一些AI算法持续自学,取输入并动态使用以改变输出无人确切知道AI算法如何得出特定结论
关键是确保所有利害相关者-用户、开发商和从产品开发到使用-负起足够的责任以确保AI安全性和效率-但程度不高以致放弃AI
保护人们避免错误AI同时推广创新,我们建议三种方法修改传统责任框架
第一,保险公司必须通过测试和验证使用前新的AI算法来保护投保人免因AI伤害被起诉的过高费用,正如使用前一样汽车保险公司多年以来一直在比较测试汽车独立安全系统可向AI利益攸关方提供可预见责任系统,适应新技术和方法
第二,一些AI错误应在拥有裁定AI案例专门知识的特别法院提起诉讼专门法庭可开发特定技术或问题方面的专门知识,例如处理两个AI系统交互作用问题(例如双自主飞行器相撞)。专业法院并非新手:例如,在美国,专业法院保护童子疫苗制造厂数十年通过判定疫苗伤害并深入了解现场
第三,监管标准 从联邦当局像美国食品药管局或NHTSA可抵充开发商和某些终端用户的超额责任举例说,联邦条例和立法取代了某些形式的赔偿责任医疗设备或杀虫剂.管理者应视某些AI为风险过大,无法在没有测试、重测试或验证标准的情况下引入市场联邦监管者应主动关注开发AI的标准过程这将使管理机构保持敏捷性并预防AI相关伤害,而不是反应太晚18新利官网多久了相形之下,尽管州和地方消费者保护和卫生机构无法搭建国家监管体系,但它们可以帮助澄清特定领域的行业标准和规范。
含过期责任体系的HamperingAI将是悲剧:自驾车会为无法使用交通工具的许多人带来移动性18新利官网多久了保健方面,AI帮助医生选择更有效的处理法,改善患者结果偶数裁剪成本行业名声高涨从金融到网络安全等行业都处在AI革命的顶峰上,这些革命可能造福全球数十亿人民。但这些好处不应该被开发不良算法削弱21世纪AI要求21世纪责任体系
这是一项观点分析文章,发件人表达的观点不一定与发件人相同新利18luck体育科学美