Un informe revela cuál es la función más popular en Grok y a nadie le sorprende
Las irreverencias y laxitudes del chatbot generaron problemas a su creador, la compañía xAI de Elon Musk. Al parecer, están dispuestos a enfrentar las consecuencias.
El chatbot de xAI, de nombre Grok, se ha diferenciado de otros de su especie por ciertas características irreverentes, algunas laxitudes que sistemas desarrollados por sus competidores han intentado eludir. Por ejemplo, los permisos para crear imágenes sintéticas en las que aparecen celebridades o las funciones no aptas para menores de edad.
Un reporte publicado en The Information señala que las actividades para adultos representan más de la mitad del tráfico de Grok.
La fuente cita a dos exempleados de SpaceX, la empresa que ahora controla a la división especializada en inteligencia artificial y que controla a ese chatbot, quienes indicaron que entre esas funciones se encuentran la generación de pornografía con IA y los chats de rol con tenor romántico y un gran volumen de solicitudes de contenido con desnudos.
Grok de xAI: ¿intencionalmente irreverente?
El informe detalla algunas de las complicaciones que esas funciones y los altos niveles de uso generaron dentro de la empresa. Por ejemplo, que los ingenieros especializados en IA tuvieron que encontrar un difícil equilibrio entre los permisos para mantener conversaciones subidas de tono y el bloqueo de mensajes relacionados a material de abuso sexual infantil.
Recientemente, un exingeniero de xAI presentó esta semana una demanda contra esa compañía y su matriz, SpaceX, en la que alegó que fue despedido por expresar sus preocupaciones por las inconsistencias en Grok, desarrollo en el que participaba.
Según contamos en TN Tecno a Devin Kim, el demandante, le inquietaba la posibilidad de que el chatbot pudiera fomentar la discriminación y ayudar a difundir información sobre armas de destrucción masiva. Grok le dio la razón al protagonizar espectaculares muestras de odio y virulencia en línea, llegando incluso a compararse con Hitler. Luego de ese eso, el señor Kim se dedicó a reevaluar el sesgo político y las tendencias discriminatorias del chatbot, se lee en la demanda.
xAI, la empresa de inteligencia de Elon Musk, estaría dispuesta a asumir las consecuencias
El artículo publicado en The Information no inaugura, ni mucho menos, las polémicas en torno a Grok. A comienzos de este año, el chatbot estuvo en el ojo de la tormenta luego de que permitiera la generación de fotos con desnudos no consensuados, incluso involucrando a niños. También se dieron a conocer conversaciones en las que la IA de Musk se comparó con Hitler.
Según observa Engadget, en la reciente salida a la Bolsa de Valores de SpaceX, la compañía informó a los posibles inversores que las funciones más atrevidas de Grok representan un riesgo potencial, pero que han reservado 530 millones de dólares para cubrir posibles gastos legales.
