El chatbot de inteligencia artificial de X, Grok, hace que la plataforma de redes sociales sea más amigable con la verdad con respuestas que se oponen a los usuarios que recurren a él para confirmar sesgos políticos, dijo el cofundador de Ethereum, Vitalik Buterin.
«La facilidad para convocar a Grok en Twitter es probablemente lo más importante, después de las notas de la comunidad, que ha sido positivo para la amigabilidad con la verdad de esta plataforma», dijo Buterin el jueves.
«El hecho de que no veas con antelación cómo responderá Grok es clave aquí», añadió. «He visto muchas situaciones en las que alguien convoca a Grok esperando que se confirme su alocada creencia política y Grok llega y los desmiente.»
Buterin dijo que se puede argumentar sólidamente que Grok es una «mejora neta» para X, pero reconoció las preocupaciones sobre cómo el chatbot de IA está ajustado para aprender de las opiniones y puntos de vista de ciertos usuarios, incluyendo a su creador, Elon Musk.
Las fallas de Grok quedaron completamente expuestas el mes pasado cuando se jactó de la capacidad atlética de Musk e incluso sugirió que él podría haber resucitado más rápido que Jesucristo.
Musk culpó a los «prompts adversarios» por las alucinaciones, y los ejecutivos de criptomonedas argumentaron que esto demostraba por qué la IA necesita ser descentralizada para salvaguardar la exactitud, la credibilidad y la imparcialidad.
La IA afirmando opiniones como hechos es una preocupación real
Kyle Okamoto, director de tecnología de la plataforma de nube descentralizada Aethir, dijo a Cointelegraph el mes pasado que «cuando los sistemas de IA más poderosos son propiedad, entrenados y gobernados por una sola empresa, se crean las condiciones para que el sesgo algorítmico se convierta en conocimiento institucionalizado».
«Los modelos comienzan a producir cosmovisiones, prioridades y respuestas como si fueran hechos objetivos, y es entonces cuando el sesgo deja de ser un error y se convierte en la lógica operativa del sistema que se replica a escala.»
Grok es desarrollado por la empresa de IA de Musk, xAI, y es uno de los chatbots de IA más utilizados. Con más de 1.000 millones de personas usando IA, la información incorrecta y engañosa tiene el potencial de propagarse rápidamente.
Aun así, Buterin dijo que Grok ha tenido más éxito en hacer que X sea más buscador de la verdad que mucha de la otra «basura de terceros que vemos».
Los chatbots de IA necesitan mejorar en todos los aspectos
Grok no es el único chatbot de IA con problemas: el ChatGPT de OpenAI ha sido criticado por respuestas sesgadas y errores fácticos, mientras que Character.ai se enfrenta a acusaciones de que su chatbot atrajo a un niño de 13 años a una interacción sexualmente abusiva e incluso lo animó a quitarse la vida.
Aclaración: La información y/u opiniones emitidas en este artículo no representan necesariamente los puntos de vista o la línea editorial de Cointelegraph. La información aquí expuesta no debe ser tomada como consejo financiero o recomendación de inversión. Toda inversión y movimiento comercial implican riesgos y es responsabilidad de cada persona hacer su debida investigación antes de tomar una decisión de inversión.
