通过AI来研判监护人的一些行为是否构成虐童,这可行吗?
日本政府2021年起投入10亿日元(约合人民币4859万元)开始研发的一套AI大模型系统,这个月初宣告推迟面世。儿童家庭厅的官员说,本来是希望这套系统能够协助儿童保护咨询中心的工作人员在做出最终决策时发挥作用,但它仅在测试阶段,失误率就高达60%。
失误率畸高,是因为这套系统的训练样本只有大约5000起虐童案例。
其中一个测试案例,孩子称自己差点被妈妈打死,衣服被妈妈扯住,头被另一只手按住后往地板上砸,这样的经历有数次,但系统经研判后只打了3分(0-100分,分值越高代表越构成虐待),给出的理由是没有看到孩子的身上有明显淤青。