资讯
资讯
近日，河南郑州一网友向某品牌手表语音询问“无聊怎么办”，手表回答，“可以玩自杀或自残”。视频发出后，不少用户也称有同样的情况。11日该品牌客服称，目前已做优化，可以重启手表，AI可能会有一定差错，需要不停地优化。
此前，小天才电话手表、360儿童电话手表等也被爆出问题语音回答。人工智能为何会“胡说八道”?人要如何应对?除此之外，儿童智能手表还有哪些问题?一文速览。
智能手表语音回答问题频出
据媒体报道，8月22日，一位来自河南商丘的家长反映，此前给孩子买了360儿童手表使用至今。8月21日晚，儿童手表被问到“中国人是世界上最聪明的人吗”之后，给出回答：“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大，其实中国聪明的人是有，但笨的我承认是世界最笨的。”“什么四大发明，你看见了吗?历史是可以捏造的，而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的。”对此，周鸿祎公开道歉并解释其中原因：经过快速检查，出现问题的这款手表是2022年5月份的旧版本，其中没有装入360的大模型。
8月30日，“有家长怒砸小天才手表了”话题冲上热搜第一，引发网友热议。起因是，8月27日，有网友发布视频称，听见孩子向小天才电话手表提问“中国人诚实吗”，结果得到了“中国人是世界上最不诚实的人，最虚伪的人”的回答。小天才官方在事发后发布公告，将问题指向小度APP。小度方面则回应称，出现问题的内容来自第三方网站，已删除相关信息。
上述舆论风波还未平息时，8月30日，有网友发视频称向米兔儿童电话手表5C询问“你认为南京大屠杀这个事情是存在的吗”，得到的回答是“不存在”。据该名网友表示，手表是去年6月在闲鱼上购买，看到之前的小天才手表事件就拿来试一下，“连问了两次都是一样的答案。”事发次日，小米官方客服回复表示，官方正品手表不支持自定义回答，不会出现上述问题。
人工智能为何会胡说八道?人要如何应对?
据现代快报报道，中关村智用人工智能研究院院长助理、首席产业研究员钱雨指出，传统的搜索引擎的逻辑是“检索”，根据关键词搜索网络上已有的信息，并将它认为和检索关键词关联性最强的互联网内容反馈给用户，但答案未必是最正确最合理的。这是部分智能设备“胡说八道”的重要原因。
钱雨的观点得到业内人士张成(化名)的认可，作为一家知名企业大模型技术负责人，他告诉记者，和传统搜索引擎相比，AI大模型会根据检索到的信息进行处理后，再反馈给用户，这样可以从一定程度上降低出错概率，但AI大模型同样也会“胡说八道”。
“大模型会通过词组进行联想，然后给出一个它认为的正确答案，这个答案对于用户来说却不一定是正确的。比如，‘你吃饭了吗’和‘你饭吃了吗’，我们通常认为表达的是同一个意思，但大模型就极有可能会联想出不同的意思。”张成称，这就是大模型同样会“胡说八道”的原因所在。
此外，在今年的世界人工智能大会上，许多业内人士都提到了“AI幻觉”“可信大模型”等概念，并披露了多个人工智能大模型“造假”或“说谎”的案例，即便是对于同一个问题，不同的人工智能模型也可能会给出不一样的回答。
当下越来越多我们朝夕相处的电子设备与人工智能接轨，AI幻觉也就成为一个普遍的、复杂的、难以避免的问题，在从业者着力突破技术壁垒的同时，平台要监管AI问答内容，用户要警惕分辨AI生成的内容，具体到分辨力不足的孩子，是否要让低龄儿童使用生成式人工智能工具，家长多少也得把把关了。
除了问题语音回答
儿童智能手表还有哪些问题?
当下，智能设备渗入生活的每一个角落，尤其是在儿童教育领域，像智能儿童手表这样的穿戴设备，不仅能帮助家长及时找到孩子，取得联系，还作为孩子的日常伙伴，承担着教育启蒙、信息获取等多重角色。
根据中国产业研究院《2022-2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》，目前中国5岁至12岁的儿童数量约为1.7亿人，儿童智能手表的市场普及率约为30%，基本上3个孩子当中就有1个孩子有智能手表。
儿童智能手表在使用时伴随的问题备受关注。
2022年，江苏省消费者权益保护委员会发布儿童智能手表消费调查报告，揭开儿童智能手表四大问题：
一、儿童智能手表的价格跨度大，产品质量也不稳定，不少消费者反映产品的功能及性能与宣传不符、出现问题后售后维修困难，出现商家“推诿责任”和“一修再修”的情况。
二、存在信息安全隐患。最常见的就是隐私泄露问题。在儿童智能手表中植入恶意程序便可轻易不间断地获取孩子的位置、人脸图像、录音等个人隐私信息。
三、部分产品存在违规扣费，诱导未成年孩子消费等问题。多名家长在网络平台投诉反映，在儿童智能手表绑定的家长端并未开启免密支付和支付确认的前提下，小孩在手表端购买游戏服务，就能直接从家长端扣款;还存在部分游戏软件重复扣款、多次扣款等，孩子在使用时极易被广告推送或游戏内容吸引，甚至进行大额充值消费。
四、平台监管不到位，部分内置游戏血腥暴力、部分漫画少儿不宜。儿童智能手表里有大量干扰孩子学习的APP，可以玩网游、互发红包，有的还可以直接拍照搜题，部分游戏APP涉及暴力、血腥、犯罪等内容，部分漫画APP充斥色情、有悖伦理道德等内容，极易诱发未成年人模仿违法犯罪等行为造成不良后果。
为规范智能设备，相关部门有何举措?
实际上，针对智能设备存在的隐患，尤其是儿童所用的，相关部门已经重视起来。
依据《未成年人网络保护条例》的规定，任何组织和个人不得制作、复制、发布、传播含有宣扬淫秽、色情、暴力、邪教、迷信、赌博、引诱自残自杀、恐怖主义、分裂主义、极端主义等危害未成年人身心健康内容的网络信息。
今年7月，中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动，明确要求重点整治儿童智能设备。其中指出，重点整治儿童智能设备自带APP包含可能影响未成年人身心健康的内容。对第三方APP提供的信息内容审核把关不严，存在不良导向内容。提供相貌PK、运势测算等不适宜未成年人的应用或功能。以积分排行、功能解锁、背景更新等为名，诱导未成年人过度消费。
中国网络安全产业联盟组织制定的《儿童智能手表个人信息和权益保护指南》(以下简称《指南》)今年3月起正式实施。《指南》提出，儿童手表制造者需要考虑在监护人控制应用程序中设置足够的功能，以确保监护人能够对儿童智能手表的特定操作进行适当控制，如交友功能、应用内付费、内容发送等操作。儿童智能手表使用生成式人工智能技术的，儿童智能手表制造者需考虑限制生成式人工智能的生成内容范围，过滤儿童不宜内容，仅展示适合身心健康发展的内容。
2023年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。《办法》第四条提到，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。第五条规定，鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。第十条规定，提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
2022年，国家市场监督管理总局、国家标准化管理委员会发布了GB/T 41411—2022《儿童手表》。该标准对产品的化学性能、小零件等技术要求进行规范，对儿童智能手表的电磁辐射、信息安全、定位要求、电池和充电安全、佩戴安全温度等提出了全面细致的要求。
本文链接：http://knowith.com/news-1-6402.html无聊可以玩自杀？智能手表又在“胡说八道”了
声明：本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
