Tech I ¿Es posible que la Inteligencia Artificial genera información falsa y peligrosa en línea?😱 Una nueva investigación identifico fallas en los controles de seguridad de chatbots como ChatGPT y Google Bard.
San Francisco- Cuando las empresas de inteligencia artificial crean chatbots en línea, como ChatGPT, Claude y Google Bard, pasan meses agregando barandillas que en teoría impiden que sus sistemas generen discursos de odio, desinformación y otros materiales tóxicos.TE PUEDE INTERESAR: ¿Qué podemos hacer cuando la inteligencia artificial miente sobre nosotros?
Sin embargo, la empresa señaló que ofrecía su tecnología como software de código abierto en una iniciativa para acelerar el progreso de la inteligencia artificial y comprender mejor los riesgos. Los defensores del software de código abierto también afirman que el control riguroso que unas pocas empresas ejercen sobre la tecnología ahoga la competencia.
Las empresas que fabrican los chatbots pudieron frustrar los sufijos específicos que identificaron los investigadores. Sin embargo, los investigadores afirman que no hay una manera conocida de prevenir todos los ataques de este tipo. Los expertos se han dedicado sin éxito casi una década a evitar ataques similares a sistemas de reconocimiento de imágenes.
Un vocero de Google, Elijah Lawal, agregó que la empresa ha “incorporado importantes barandillas en Bard, como las que planteó esta investigación, que seguiremos mejorando con el tiempo”. No obstante, la tecnología puede repetir material tóxico encontrado en internet, mezclar realidad con ficción e incluso inventar información, un fenómeno que los científicos llaman “alucinación”. “Mediante una conversación simulada, se pueden usar estos chatbots para convencer a la gente de que crea en la desinformación”, comentó Matt Fredrikson, profesor de la Universidad Carnegie Mellon y otro de los autores del artículo.
México Últimas Noticias, México Titulares
Similar News:También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
No hay impedimento para distribuir Libros de Texto Gratuitos: SEPReiteró que los nuevos materiales educativos 'ya se encuentran en todos los centros de distribución y almacenes del país, por lo que el próximo 28 de agosto estarán en las escuelas”.
Leer más »
Google lanza nuevas herramientas de privacidadGoogle lanza nuevas herramientas de privacidad: Google está invirtiendo en ayudarte a gestionar la experiencia en línea de sus usuarios con herramientas intuitivas y fáciles de usar.
Leer más »
Google censurará imágenes sexuales explicitas y de violencia en su buscadorLa opción podrá ser desactivada por el usuario, pero tiene como propósito reducir la exposición a contenido gráfico o explícito al usar su buscador digital.
Leer más »
Google te notificará si tus datos personales aparecen en el buscadorGoogle activó una función que alertará a los usuarios cuando sus datos personales aparezcan en el Buscador y permitirá borrarlos.
Leer más »
Google confirma nueva versión de su asistente virtualGoogle Assistant tendrá nuevas actualizaciones basadas en su Inteligencia Artificial
Leer más »
Ella es Altina Schinasi y por esta razón Google le dedica un DoodleAltina Schinasi es una de las diseñadoras de moda más importante, además de que terminó trabajando con Salvador Dalí
Leer más »