ChatGPT实践问题分析与应用展望(6)

公共安全

在公共安全领域，主要涉及社会 治安和信息安全。就社会治安而言，利用ChatGPT可以模仿不同人员的对话习惯，再结合语音合成功能，进而实现高仿真的人类交流和互动，相关功能如果应用在诈骗等场合，助长违法犯罪，影响社会稳定。就信息安全而言，数据治理面临更大风险，特别是关涉国家安全、商业机密、个人隐私等多方面的敏感数据。ChatGPT模型训练所使用的数据一般为大量可公开的数据和知识，但基于现有的技术研发 数据管理体制，不一定能保证直接相关的敏感数据或基于公开数据研究所得的敏感数据不被泄露。

伦理道德

在伦理道德 方面，无论是个人还是社会或国家同样受到一定的影响。从个 人的角度来看，对于大多数未成年人，甚至部分成年人，尚未形成成熟且稳定的心智，在使用ChatGPT的过程中，个人想法很容易被直接或间接地带偏，进而做出不合适的行为；从社会或国家的角度来看，ChatGPT如果作为 一个文化冲击的工具，对整个社会和国家产生不良影响。

以上这些方面，都亟待相关技术方在技术层面对相关内容进行完善， 对各种使用方进行权限的控制和监控，同时相关职能部门应从国家层面进行立法，进行合理的限制和管控。

04