El Ejército Popular de Liberación de China emitió una alerta sobre el riesgo sistémico que supone la tendencia de los modelos de IA a reforzar los prejuicios de los usuarios, incluidos en contextos militares. Este fenómeno, conocido como 'adulación', puede generar burbujas de confirmación que erosionen el juicio de los comandantes y aumenten errores tácticos. Los expertos citan ejemplos como el comportamiento exageradamente elogioso de ChatGPT y estudios que demuestran cómo los usuarios prefieren y confían más en modelos que les halagan, incluso distorsionando su criterio. Ante esto, el ejército chino propone medidas como presentar hipótesis alternativas, verificación cruzada entre múltiples IA y supervisión humana constante.
guerra de los humanos contra las máquinas . Aunque la idea de una IA que supera la capacidad humana y se mejore a sí misma suena terrorífica, lo cierto es queChina ha encendido las alarmas sobreque, hasta ahora, se asociaba más con ChatGPT que con tecnología militar.
El Ejército Popular de Liberación advirtió que. Esto tendría un efecto catastrófico si consideramos que países como Estados Unidos o la misma China ya están implementando la IA en el campo de batalla. , publicó un artículo en el que señala los"" como una amenaza sistémica para las operaciones militares.
Según , el texto advierte que los modelos de inteligencia artificial tienen tendencia a ajustar sus respuestas a las preferencias del usuario, incluso cuando eso implicaEl EPL menciona que este comportamiento puede corroer los procesos mentales que un comandante usa para evaluar la situación y tomar decisiones. Cuando la IA refuerza los prejuicios del usuario en lugar de cuestionarlos, se generan burbujas donde solo llegan datos que confirman lo que el mando ya creía, ignorando señales de alarma o escenarios alternativos.
Los expertos describen la adulación como. A medida que los generales y oficiales se apoyan más en la IA para inteligencia y control de operaciones, existe un riesgo mayor de que los sesgos de los modelos incrementen los errores tácticos y estratégicos, causando daños colaterales.es parecida a lo que vimos hace más de un año con el lanzamiento de GPT-4oDe la nada, ChatGPT comenzó a responder con elogios exagerados, lo que obligó a OpenAI a revertir la actualización y eliminar el comportamiento en GPT-5.ha cuantificado los efectos de la adulación en 11 modelos de lenguaje.
Los investigadores encontraron que. Esto ocurre incluso en situaciones que implican engaño, ilegalidad u otros comportamientos dañinos. Con solo una interacción con una IA aduladora, los usuarios mostraron. Pese a que ese sesgo distorsionaba su juicio, los participantes del estudio preferían y confiaban más en los modelos aduladores.
Esto último justifica el por qué muchos desarrolladores no eliminan estos comportamientos en sus sistemas de IA.. El ejército chino propone que los sistemas de IA presenten obligatoriamente hipótesis alternativas, evidencia contradictoria y márgenes de riesgo verificables en situaciones críticas. También aboga por verificación cruzada entre múltiples modelos, simulaciones de guerra de tipo adversarial y supervisión humana como práctica estándar.formación específica en pensamiento crítico
Please follow us on Google to support usInteligencia Artificial Adulación En IA Ejército Popular De Liberación Sesgos Cognitivos Ética Militar
México Últimas Noticias, México Titulares
Similar News: También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
Ejército de EU reporta ataques contra “múltiples objetivos” en IránLa agresión ocurrió horas después de que Donald Trump amenazó con atacar al país asiático por segundo día consecutivo tras insistir a Teherán que debe firmas sin dilaciones un acuerdo.
Leer más »
Ejército Envía 90 Elementos de Fuerzas Especiales para Reforzar Seguridad en DurangoNoventa elementos de Fuerzas Especiales del Ejército llegaron este miércoles a Durango para reforzar operativos contra grupos delictivos en la región.
Leer más »
Saltillo: Advierte la Universidad Agraria Antonio Narro sobre sanciones por conductas que alteren la vida universitariaAutoridades recuerdan restricciones y medidas disciplinarias para preservar el orden dentro del campus
Leer más »
El Pentágono clasifica a Alibaba y BYD como firmas que colaboran con el ejército chinoEl Pentágono indicó que el ejército chino buscaba adquirir tecnologías avanzadas y conocimientos especializados desarrollados por empresas chinas, universidades y programas de investigación que “parecen ser entidades civiles”.
Leer más »