Tal y como ha comprobado Bloomberg, la IA de OpenAI comete sesgos raciales a la hora de examinar y calificar currículums.
, para el departamento de recursos humanos con tal de optimizar el trabajo de reclutamiento. Incluso, según el citado medio,, aunque la propia OpenAI prohíbe usar su modelo de inteligencia artificial para este cometido.
La labor de GPT en esta tarea es relativamente sencilla: comprobar qué candidato tiene una mejor experiencia, más estudios o qué aptitudes se adhieren mejor a la empresa que está buscando contratar nuevos talentos. Pero el experimento deincluso aunque los candidatos tengan exactamente la misma experiencia,
la IA de OpenAI califica como menos aptos para el puesto a las personas con nombres demográficamente distintos a los estadounidenses.El periódico pidió a GPT 3.5, el modelo más utilizado, que calificarla los mismos currículums en hasta 1.000 ocasiones. Todos ellos, reiteramos, con la misma experiencia, pero con nombres diferentes.
Cuando se le pidió que clasificara esos currículums 1.000 veces, GPT 3.5, la versión más utilizada del modelo, favoreció nombres de algunos grupos demográficos con más frecuencia que otros, hasta un punto que no superaría los puntos de referencia utilizados para evaluar la discriminación laboral contra grupos protegidos.
Cuando Bloomberg preguntó a responsables de OpenAI sobre este sesgo, la compañía respondió alegando que “las empresas que utilizan su tecnología, incluso ajustando las respuestas del software, gestionando los mensajes del sistema y más”. Esto, sin embargo, no soluciona el principal problema, y muchas empresas pueden optar por confiar en la IA para clasificar candidatos sin tomar ningún tipo de medidas para evitar que esta discrimine a las personas por su raza..
México Últimas Noticias, México Titulares
Similar News:También puedes leer noticias similares a ésta que hemos recopilado de otras fuentes de noticias.
Google lanza Gemini 1.5 y destroza a OpenAI y GPT-4Google ha anunciado el lanzamiento de Gemini 1.5, la primera actualización de su modelo de inteligencia artificial de última generación.
Leer más »
OpenAI estaría desarrollando un buscador para competir con GoogleOpenAI estaría trabajando en un buscador con inteligencia artificial para competir con Google y revolucionar las búsquedas en la web.
Leer más »
OpenAI, Meta y Microsoft se unen para frenar los contenidos falsos generados con IAOpenAI y una veintena de empresas firmaron un acuerdo para luchar contra el contenido engañoso generado con inteligencia artificial.
Leer más »
OpenAI tiene un plan para revolucionar la industria de los chips, pero necesita una cantidad absurda de dinero para concretarloSam Altman, el CEO de OpenAI, se ha reunido con varios pesos pesados para presentarles su plan para revolucionar la industria de chips.
Leer más »
ChatGPT ya tiene memoria y recuerda todo lo que le pidesOpenAI dotó de memoria a ChatGPT, por lo que ahora recordará todo lo que le dices y usará los datos en futuras interacciones.
Leer más »
Los videojuegos son ideales para combatir el AlzheimerEstudios demuestran que los videojuegos son ideales para combatir el Alzheimer. Dado que agilizan la mente de las personas.
Leer más »