大型科技公司尝试通过AI驱动的应用程序和控件来解决儿童和青少年在线安全问题
关心在线保护孩子的父母可以利用最新的AI驱动的应用程序和控件进入市场。这是最新的综述。
在线勒索、性侵害、色情内容、网络欺凌、手机成瘾是当今网络空间中儿童和青少年面临的一些主要问题。
美国外科医生Vivek Murthy在 2 月份向父母发出警告，目前互联网内容不适合13岁及以下的孩子浏览。
相反，穆尔蒂建议父母等到孩子至少16岁后再让他们接触互联网，因为过早的接触一些内容这对青少年的自我价值、人际关系和个人发展有非常大的不良影响。
与此同时，根据最近的美国调查和报告，近 50% 的青少年在网上受到过欺凌、威胁或骚扰，而超过一半的年轻人认为他们对手机上瘾了。
对于Snapchat、TikTok、Instagram、Facebook和Twitter等应用程序，13 岁及以上的用户可以在未经父母许可的情况下注册和创建帐户。
需要注意的是，YouTube——目前在美国和英国都面临着非法收集儿童私人数据的指控和法律后果——拥有自己的 YouTube Kids频道。尽管如此，研究表明许多孩子使用的是父母的帐户。
更令人不安的是，根据英国儿童事务专员1月份的一项研究，儿童第一次看到色情内容的平均年龄仅为13岁。
令人惊讶的是，40%的受访青少年表示，让他们接触非法图片和视频的最常见在线平台是Twitter，Instagram和Snapchat。
更重要的是，调查显示，超过一半的 16 岁及以上少女曾收到或显示过涉及她们在现实生活中认识的人的露骨内容。
“我坚信，20年后我们回头看时，会对孩子们接触到的内容感到震惊。与当今的网络色情世界相比，父母可能在年轻时接触过的成人内容可以被认为是‘古怪的’， ”英国儿童事务专员Dame Rachel de Souza谈到这份报告时说。
人工智能驱动的解决方案可以帮助青少年保持上网安全
科技公司一直在关注儿童在线安全的糟糕状况，最近推出了两款受机器学习启发的新应用程序——一款帮助青少年从互联网上删除露骨的图片和视频，另一款帮助父母过滤内容并监控孩子手机上的社交媒体聊天。
关于家长控制，流行（且有争议）的社交视频应用程序 TikTok 周三宣布计划推出一项新功能，旨在将所有 18 岁以下用户的每日屏幕时间限制为每天60分钟。
一些人将此举视为获得美国成年人青睐的一种方式，由于其侵入性的隐私收集做法，美国成年人绝大多数不喜欢该应用程序。
该应用程序最近已在整个美国联邦政府中被禁止。
TikTok表示：“我们正在通过更多自定义选项改进我们的屏幕时间工具，为青少年帐户引入新的默认设置，并通过更多家长控制扩展Family Pairing。 ”
TikTok已经自动为 13-15 岁的用户自动设置私人帐户，只有16岁或以上的用户才能在应用程序上使用即时通讯功能或者发布自己的内容。
该公司表示，家庭配对功能将为父母提供一个仪表板，以进一步细分统计数据，例如打开应用程序的频率和时间。
本周引起轰动的另一个网站是Take It Down在线安全工具，它由国家失踪与受虐儿童中心 (NCMEC) 提供，由扎克伯格的元平台资助。
据 Take It Down网站称，该服务可以帮助青少年删除或停止在线分享未满 18 岁时拍摄的裸体、半裸或色情图片或视频。
这个免费的匿名工具通过为非法图像或视频分配一个独特的数字指纹或哈希值来工作，其他在线平台可以使用它来检测相同的图像或视频在他们的服务或删除。
NCMEC发言人加文·波特诺伊 (Gavin Portnoy) 说：“Take It Down 是专门为那些有理由相信已经在网上某个地方或可能已经在网上的图像的人而制作的。”
“你是一个青少年，你正在和某人约会，并且分享这个形象。或者有人敲诈你，他们说，‘如果你不给我一张图片，或者你的另一张图片，我就会做 X、Y、Z，’”Portnoy 说。
图片或视频本身永远不会上传或透露给任何平台，只有哈希值——制作者说这是对青少年的一种激励，他们可能会因为太尴尬而不敢向朋友、家人或执法机构透露非法材料的存在.
Take it Down还适用于 AI 生成的图像和深度造假。
Facebook、Instagram、OnlyFans、Yubo和Pornhub都是该服务的参与成员。
2017 年，扎克伯格曾有过类似的想法，仅限成人服务以打击报复性色情内容，但从未成功。
Meta确实帮助在英国推出了一种替代工具，以支持成年复仇色情受害者，称为停止非自愿亲密图像滥用(NCII)工具，该工具还使用哈希值来识别非法材料。
全球任何人都可以使用Take it Down工具和NCII帮助热线。
NCMEC 还运行一个CyberTipline来报告对儿童的在线性虐待，近年来报告急剧增加。事实上，Family Keeper是另一款最近推出的应用程序，旨在帮助父母利用AI的力量驾驭孩子的数字世界。
据该网站称，本周最后一次发布的是Family Keeper应用程序，该应用程序旨在帮助父母利用 AI 的力量在孩子的数字世界中导航。
该应用程序同步到父母和孩子的设备，并提供地理定位、屏幕时间安排和关键字监控。
Noy Haber表示：Family Keeper“使父母能够监控社交媒体聊天并跟踪孩子的位置；过滤内容以确保孩子们不会接触到任何不当或有害的内容，”。
该应用程序还具有教育意义，供父母和孩子一起使用。
Reason Labs首席执行官Kobi Kalif表示：“如今的孩子们花在网上的时间比以往任何时候都多，而且随着在线平台——从社交媒体到游戏等——继续快速发展，确保孩子受到保护对父母来说是一个持续的挑战。”
该公司声称该应用程序会定期分享专家的安全警报和建议，包括描述儿童在网上可能面临的不同场景以及如何最好地应对这些场景。
一些评论家指出，新发布的应用程序和控件都不是万无一失的，但这是朝着正确方向迈出的第一步。
例如，Meta的Take it Down工具无法删除通过加密应用程序（例如WhatsApp或Telegram）发送的图像，并且必须在孩子的手机上安装Family Keeper才能正常工作。TikTok的青少年用户可以在与朋友一起观看视频时登录其他帐户或更换设备，以绕过每日屏幕限制。
本文来源于Lonely Blog -全球网络安全资讯平台, 转载请注明出处： https://blog.wuhao13.xin/4677.html
