王晶莹 张媛媛 王新元 刘煜松

摘要：如今互联网正在高速发展，信息的传播方式不断发生转变，网络上的信息量也在急速膨胀，虽然降低了网民获取资源的门槛，但为网络中不良文化的滋生和传播提供了条件。如今大量青少年触网且上网年龄不断低龄化，但青少年各方面不够成熟，辨别是非能力差，缺乏自我保护能力，法律意识薄弱，很容易受到负面影响。现今在计算机视觉领域中，图文内容识别技术发展迅猛，识别准确率高、速度快、成本低。图像识别技术能够有效地应用于青少年上网监护过程中，达到高效监护的效果。

关键词：青少年上网监护;内容识别技术

中图分类号：TP391      文献标识码：A

文章编号：1009-3044（2021）36-0148-03

开放科学（资源服务）标识码（OSID）：

1 背景

根据中国互联网络信息中心（CNNIC）报告显示，2019年未成年人互联网普及率达93.1%，并且青少年上网年龄还在持续低龄化。纷繁复杂的网络信息非常容易影响缺乏辨别是非能力的未成年人，很容易误入“歧途”[1]。据《社会蓝皮书》调查显示，在青少年的成长中父母的陪伴起到重要的作用，父母的在场很大程度上可以防止少年儿童过度上网[2]。本项目致力于将监护人的引导置入青少年健康教育的环节中，实现监护人对青少年反常上网行为的监管。为监护青少年安全上网，通过自动定时截图、人工智能识别、反馈浏览信息等环节，实现对青少年上网时长、上网时段、浏览内容等实时监护。促进监护人与青少年之间的沟通，对青少年身心健康的保护更有效，减少不良信息对青少年成长的影响，保护青少年身心健康，同时也能够大幅度降低人工审核成本。

2 青少年上网状况

2.1 教育与学习

随着互联网的发展和生活水平的提高，电脑越来越普及，各类行业都以互联网为基础建立起广泛的应用。其中，教育行业也更加深入地与互联网科技结合，形成“互联网+教育”的新型教育形式。网上授课、网上答题、网上考试等各种教学形式变得更加日常化，上至大学生，下至小学生，更加频繁地使用电脑或移动设备等在微信、学习通等教学平台上完成老师布置的学习任务。 青少年独自接触手机电脑的机会大大增加，而网络上的信息复杂且不可控，容易分散青少年的注意力，反而影响青少年的健康成长。

2.2 游戏

除了必须进行的学习任务以外，游戏行业的普及也成为青少年接触电脑和手机的重要原因。各类游戏利用人类心理需求或弱点吸引了大批用户，游戏受众人群年龄跨度大、热度高、讨论范围广。未成年人难以禁受诱惑，常被各种游戏吸引，耗费大量时间、金钱、精力等。并且部分游戏中充斥着大量不利于青少年成长发展的价值观，诸如攀比、贪婪、暴力、不切实际、自私、报复心、逐利等，长期在此类游戏环境下耳濡目染，很有可能造成青少年的价值观扭曲以及与现实世界产生隔阂等不良后果。

3 家长监管困难的原因

3.1 电脑等上网设备的普及

随着经济的发展，人们的生活水平不断提高，电脑等可联网设备越来越普及。如今，几乎每个家庭都会有一台电脑，为青少年上网提供了设备基础。青少年上网更加方便，上网的机会更多。

3.2 网络环境发达且难以管控

互联网的高速发展使中国互联网网民数量高速增长，在各类网络通信技术的进步下，各行各业包括工业、金融、医疗、教育等进入新型科技产业行列。中国进入“互联网+”时代，因此青少年在很多时候会不可避免地接触网络，时刻受到网络信息的影响。各类广告也因此层出不穷，出现在各种页面弹窗和绑定程序中，令人防不胜防。

3.3 青少年触网低龄化

在互联网时代生长的青少年，触网年龄不断减小。未成年人生理和心理都尚未发育成熟，还处于模仿阶段，在接触到部分网络信息时容易受其影响从而进行模仿。未成年人因此更容易学习到更多内容，但其中不免有不利于青少年身心发展的部分，如果这类内容也让未成年人争相效仿，就会使其误入歧途，后果不堪设想。此外，未成年階段判断能力尚不足，这一点容易被心怀不轨的不法分子利用，诸如欺骗儿童盗刷父母支付宝微信、诱骗儿童暴露自己的隐私部位等。

3.4 家长无法时刻陪伴青少年

青少年需要上网的时段不固定，由于青少年自身自控力不强，自己无法控制上网时长，导致独自上网时使用电脑时间过长。而家长常常因为有工作或其他事务，无法无时无刻地监督青少年上网情况。

4 图文内容识别监护流程

此项目致力于确保青少年健康安全上网，项目由电脑应用程序和手机App组成，由电脑应用程序定时截取青少年的电脑屏幕，对截取的图片进行分析鉴定，当鉴定到青少年浏览不良内容时，监护人使用的移动端App会收到消息提醒，以此来起到监督和提醒的作用，家长还可以通过手机App获取青少年上网时长等信息。

此项目的功能实现主要由为三个模块组成：定时截取屏幕，内容识别分析鉴定，手机端App接收反馈。

4.1 定时截取屏幕

图文内容识别监护的第一步是在青少年上网时，使用Win32 API自动定时调用屏幕截图来获取计算机界面显示的青少年当前浏览的内容，通过屏幕内容发生变化的时间来计算青少年的上网时间，并将截取的屏幕图片传输到图像文字内容识别分析模块进行下一步的操作。监护人可以设置截图的间隔时长，来满足不同程度的监护需求。截取屏幕流程如图1所示。

4.2 图像文字内容识别分析鉴定

通过调用图文内容识别接口，由于截取屏幕频率高、数据大、人工审核存在速度慢、成本高等问题。内容安全识别使用深度学习算法，有效降低人工成本，智能识别违规内容，大幅度提高审核的效率[3]。根据审核返回的结果判断当前所浏览内容是否健康，如果发现浏览内容不适合青少年或检测结果不确定，则向手机端App发送通知信息;发现青少年上网时长反常等异常问题，及时向手机端App发送消息通知。内容识别流程如图2所示。

4.3 手机端App接收反馈

手机端App由青少年的监护人下载使用，当App收到来自OCR图像文字分析鉴定模块发来的反馈时，代表青少年目前所观看的内容可能并不适合于他们，App会以弹窗的形式提示监护人，并将浏览的不良内容反馈给监护人，起到监督和提醒的作用。通过手机App可以规定青少年的上网时间，如果电脑应用程序检测到上网时间超出规定时间，手机App同样会收到提醒。手机端接收反馈流程如图3所示。

4.4 整体运行流程

青少年用户在PC端启动桌面程序。如果已有账号则直接登录，如果没有账号，则在注册后进行登录。登录成功后，系统记录下用户的上线时间，下线后系统记录用户的下线时间，通过用户的上线与下线时间来计算用户的上网时长和上网时段等上网信息。如果出现超时情况，则发送违规消息至App。在用户上网期间系统自动定时截图并使用内容识别功能进行分析鉴定，如果出现违规或不确定的内容时，则发消息至监护人App通知监护人，由监护人进行判断或与青少年展开沟通教育等。

5 研究方法及创新点

1）目前许多网络平台推出了“青少年模式”、防沉迷系统，但难以起到切实监控与对青少年身心健康实施保护的作用，该项目为保护青少年触网身心健康提供了一个新的解决方案[4]。通过监控青少年上网数据，规范青少年上网行为，为青少年合理上网提供来自监护人的管理和约束，有效促进青少年与监护人之间的沟通，保护青少年身心健康。

2）该监护流程中运用了人工智能内容识别技术[5]，实现对PC端页面内容的实时监测。基于深度学习，对青少年浏览界面中的图片、文字进行内容风险智能识别和审核，大幅度降低人工审核成本，实现对用户浏览界面中可能出现的涉及色情、暴恐、涉政等违规内容的监督预防。

3）青少年网络健康机制将屏幕截取与内容安全识别技术有效结合，本产品中使用win32 GDI图形设备接口实现截图功能。GDI连接了显示图像和物理设备，使用基于函数的编程方式提升编程效率。

4）将通过自动定时截取屏幕获取的上网时长、上网时段、上网内容等数据以图像化的形式展现，向监护人清晰有效地传达上网数据，能够更加直观地了解青少年当前的上网习惯，从而制定更好的上网方案。

5）使用ASP.NET Web Api框架开发，作为桌面应用和移动设备的后台，进行识别结果处理等[6]。应用uni-app开发技术实现App信息传达，实现实时有效的监控、提醒和安全等目的，并提供一套友好的人机交互功能。

6 优势及作用

将图文内容识别技术应用于青少年上网监护系统中能起到多方面作用。

6.1 有效监护

目前市场上已出现的“青少年模式”此类青少年防沉迷系统，主要限制的是用户对应用的使用权限，但在用户自制力等多方因素的影响下变得形同虚设。本系统不同于已有的防沉迷系统，更多地从对青少年这一类用户的监护角度出发，注重对青少年使用电子产品的外部约束。通过监护人对青少年的制约影响，来达到对青少年上网时长、上网时段、上网内容等方面的有效监护。

6.2 促进沟通

采用监护人监护这一方式，一定程度上促进了青少年与监护人之间的沟通。在征得使用者同意后，监护人可以获知一部分青少年的浏览内容，更好地察觉青少年成长过程中的心理变化。从而及时地有针对性地与青少年进行沟通，避免正处于不成熟阶段的青少年过度地受到网络中不良信息的影响或过长时间沉溺于网络世界所导致的心理障碍产生、身体素质下降、人生观和价值观的扭曲、受到网络欺诈甚至犯罪等情况。青少年监护人是在青少年成长阶段中亲密且信任的人，对青少年心理指导可以起到关键性作用。

6.3 合理上网

本產品对使用者上网时长、上网时段、上网内容等方面进行有效监护，监护人可以直观地通过图像化的形式结合相关数据观察青少年的上网习惯，并以此为依据对青少年进行合理的上网规划。

6.4 高效识别

本产品对使用者内容的识别由人工智能完成，帮助发现青少年上网内容中可能涉及色情、暴恐、政治敏感等的内容，能够降低人工审核的成本，并提高识别效率。本产品还能够将无法界定的内容发送给监护人，避免错误判断。

7 结束语

将图文内容识别技术应用在青少年上网监护中，可以实现对青少年上网情况的有效监护，一定程度上确保青少年不受纷繁复杂的网络环境的负面影响，解决监护人无法随时陪伴在孩子身边的痛点问题。还可以加强青少年与家长之间的沟通，拉近监护人与青少年之间的距离，让监护人走进青少年的内心世界，减小代沟。

参考文献：

[1] 谢忠保.互联网对青少年的影响[J].青年研究，2000（9）：8-13.

[2] 昝玉林.国外应对青少年网络成瘾的对策及启示[J].中国青年研究，2007（2）：80-83.

[3] 黄元飞，张景璐，古利勇.绿色上网及相关技术发展趋势[J].电信科学，2006，22（9）：1-5.

[4] 尹瑞凤.如何加强学生的网络德育教育[J].新课程（下），2011（2）：114.

[5] 郑远攀，李广阳，李晔.深度学习在图像识别中的应用研究综述[J].计算机工程与应用，2019，55（12）：20-36.

[6] 王仲洲，杨晓洪，王剑平，等.基于REST风格的WEBAPI架构研究[J].微处理机，2016，37（5）：52-55.

【通联编辑：谢媛媛】