AI也学坏?——从真实案例中看训练数据对AI的影响

青少年在线精英教育平台

所属课程：当AI具有了身体，你的未来面临大变革！(16星期,32课时)

14岁

发布于：04-22

浏览数：18

1 赞

人类司机在深夜空旷路口,几乎都会选择“红灯直接通行”,这是特斯拉采集数据中高频出现的驾驶行为。模型在训练中学习到:“深夜、无车、无人的路口,红灯时通行是人类的正常操作”,因此在完全匹配的场景中,复刻了人类的违规行为。

特斯拉的数据清洗环节,很难将“人类的违规行为”完全过滤:若直接删除所有闯红灯数据,会导致模型在正常路口的停车决策能力下降；
若仅标注“违规行为”,模型仍会学习到场景与行为的关联,无法从根本上杜绝该问题。

你还没有登录，请先登录或注册！