China ha manifestado su preocupación por la “contaminación de datos” en los sistemas de inteligencia artificial, advirtiendo que el uso de información falsa, sesgada o repetitiva en el entrenamiento de modelos puede generar consecuencias graves.

Según el Ministerio de Seguridad del Estado, la proliferación de contenido generado por IA eleva el riesgo de que se incorporen datos defectuosos, lo que podría derivar en “decisiones automáticas equivocadas” o incluso en la “manipulación de la opinión pública”.

El ministerio cita estudios que indican que basta con que una de cada 10 mil muestras sea falsa para que aumente perceptiblemente el volumen de respuestas “nocivas” de un modelo. Este fenómeno, conocido como “efecto cascada”, preocupa especialmente en sectores como la sanidad, las finanzas y la seguridad pública, donde decisiones basadas en datos inexactos podrían tener repercusiones directas sobre la población.

Para enfrentar estos riesgos, China ha implementado desde enero un reglamento que exige a las plataformas de IA generativa realizar auditorías de seguridad, etiquetar claramente los contenidos creados por IA y eliminar periódicamente la información que infrinja las normas. Además, el gobierno ha advertido que el uso irresponsable de esta tecnología podría amenazar la “estabilidad social” y la seguridad nacional si cae en manos de “fuerzas hostiles a China”.

Desde 2023, el país obliga a que los servicios de IA respeten “los valores socialistas fundamentales” y prohíbe la generación de contenidos que atenten contra la unidad territorial o la seguridad nacional. A pesar de que empresas como Alibaba, Tencent y ByteDance han lanzado sus propios chatbots, persisten dudas sobre el desarrollo de esta tecnología bajo una estricta censura.

Paralelamente, el Ministerio de Seguridad del Estado ha intensificado su campaña contra el espionaje, instando a la población a desconfiar de ofertas extranjeras y a participar en una “movilización de toda la sociedad” para proteger los datos sensibles.