日前看到新闻,某企业用聊天机器人假扮人类,蒙骗消费者。使用聊天机器人服务消费者没有错,但是现在这样用,技术明显是跑在法律前面了,至少在中国还没有立法,禁止机器人假扮人类。
2019年,美国加州新法生效,要求各类用途聊天机器人必须说明自己是机器人。
用聊天机器人实现自动化、智能化、个性化的服务是很好的,但是当消费者询问:你是谁,你是机器人吗?一定要明确,“我是聊天机器人”。不论是打电话、发短信、还是在社交网络上发言。
违法的回答要面临罚款。
在中国,还没有明确看到法律条文,或者目前笔者还不知道。为什么美国要发布这样的法律呢?
因为美国发生了多起利用聊天机器人诈骗老年人的恶性案件,或者其它的类似犯罪案件,以前实施这样的案件成本高,但是随着聊天机器人、人工智能技术的进步,实现聊天机器人,只需要整理话术,分析对话历史,在互联网上应用聊天机器人,在大量人群中实施“钓鱼”或者“杀猪盘”,成本低,一万两万个聊天间,总有几个或更多人掉入陷阱。
在中国,最高人民检察院第一检察厅、新闻办公室,公安部新闻宣传局、腾讯等联合布报告(《电信网络诈骗治理研究报告(2019上半年)》),称新型技术的发展也逐渐被不法分子利用。比如在电信网络诈骗实施过程中,人工智能开始被用于群聊群控场景,诈骗行为人制作聊天机器人程序,配合人工操作,将被害人引入迷局。就在最近,2020年9月,央视曝光微信“清粉”软件利用聊天机器人威胁个人隐私,很多人被蒙骗。
有更恶毒的互联网企业开始应用聊天机器人牟利,比如《珍爱网用机器人和我聊天,欺诈消费者!》见诸黑猫投诉。
至文章发布前,珍爱网还没有澄清这个事情,笔者推测基本上消费者说的属实,可是消费者该怎么维权?游走在法律灰色地带的这些厂商实在是业界毒瘤。有缘网也曾被质疑使用聊天机器人欺骗消费者。
在此,笔者希冀聊天机器人技术被用在推动社会发展进步上。聊天机器人平台提供商,应恪守道德标准,不但是法律禁止的不要做,就是法律没有出台,但是不符合道德规范,败坏社会风气,用不文明的手段致使他人财产、经济、精神损失的,也不要做。
参考文章
加州出台新法禁止机器人假扮人类
最新电信网络诈骗研究报告复原“杀猪盘”,“白富美”原来是“抠脚大汉”
央视曝光!微信“清粉”威胁个人隐私
珍爱网用机器人和我聊天,欺诈消费者!
“撩妹”撩到“机器人”?有缘网逆天毛利率背后,到底藏着哪些陷阱