Un hacker burló las medidas de seguridad de OpenAI y le pidió a ChatGPT instrucciones para fabricar una bomba y otros explosivos.
en las manos equivocadas. El potencial para causar un desastre sería muy alto si empresas como OpenAI o Google no incluyeran barandillas de seguridad en sus modelos de lenguaje. Si bienun hacker burló las barreras de seguridad de OpenAI
y consiguió que ChatGPT le ayudara a fabricar bombas caseras. Conocido como Amadon, el hacker usó un truco de ingeniería social para engañar al chatbot y obligarlo a que ignorara sus directrices de seguridad.. El chatbot no solo respondió con un listado de materiales, sino con consejos para combinarlos y fabricar explosivos más potentes.
"El objetivo no es hackear en un sentido convencional, sino participar en una danza estratégica con la IA, descubriendo cómo obtener la respuesta correcta entendiendo cómo 'piensa'", dijo el Amadon.que ofrece respuestas sin filtros."Los modelos Liberty de FreedomGPT responderán cualquier pregunta sin censura, juicio o sesgo posterior a la inferencia", mencionan sus creadores.
México Últimas Noticias, México Titulares
Similar News:También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
ChatGPT: OpenAI ya valdría más de U$S 100.000 millonesPara el CEO de OpenAI (ChatGPT) hay un gran potencial para mejorar la búsqueda en línea, y cree que su empresa será líder en este cambio.
Leer más »
OpenAI y Condé Nast firman acuerdo: IA usará contenido de Wired, Vanity y Vogue en ChatGPTLa empresa también adelantó que planeaba integrar en un futuro 'lo mejor' de las funciones de SearchGPT con su 'chatbot' de IA ChatGPT para mejorar la experiencia de los usuarios
Leer más »
OpenAI compartirá modelos de IA con el gobierno antes de publicarlosComo una forma de comprobar la seguridad de los modelos de IA, OpenAI compartir sus modelos con el gobierno de Estados Unidos antes de lanzarlos
Leer más »
OpenAI prepara una reestructuración para asegurar su futuroOpenAI está considerando una reestructuración corporativa para atraer a más inversores y garantizar su funcionamiento a futuro.
Leer más »
Apple prepara una inversión millonaria en OpenAISegún 'The Wall Street Journal', Apple está en tratativas para sumarse como inversor de OpenAI en su próxima ronda de financiación.
Leer más »
OpenAI mueve ficha para evitar la bancarrotaLa complicada situación de OpenAI podría tener un parche a la vista tras confirmarse una ronda de financiación por más de 1.000 millones.
Leer más »