La IA te puede convencer mejor que una persona, sobre todo si sabe algo de ti
En contraste, cuando GPT-4 no tenía acceso a información personal, o cuando el oponente humano sí lo tenía, no se observaron diferencias significativas en persuasión comparado con el debate entre humanos sin información personalizada. Esto sugiere que GPT-4 fue capaz de aprovechar la información personal de forma más efectiva que los propios humanos para elaborar argumentos convincentes. Como señala un experto, “no solo es sorprendente su capacidad de convicción, aún más inquietante es su capacidad de hacerlo mejor que una persona real”.
Al analizar los resultados por tipo de tema, el fuerte efecto persuasivo de la IA personalizada se mantuvo para los temas menos controvertidos (fuerza de opinión baja y media), pero disminuyó y dejó de ser estadísticamente significativo para los temas de alta controversia.
David E. Losada, catedrático de Ciencia de la Computación e Inteligencia Artificial, Centro Singular de Investigación en Tecnologías Inteligentes (CiTIUS), Universidad de Santiago de Compostela, dice:
“Este trabajo de investigación incide en la capacidad de GPT-4 para debatir y persuadir en conversaciones sobre temas de diferentes niveles de controversia. Los autores concluyen, a través de un estudio con 900 usuarios con diversos perfiles sociodemográficos (variando género, edad, grupos étnicos, nivel de educación y afiliación política), que GPT-4 presenta habilidades iguales o superiores a los humanos para persuadir sobre los temas de los que se debate.
Adicionalmente, los resultados sugieren que si el modelo de IA tiene acceso a información personal del humano con el que conversa, entonces es capaz de sacar partido a ese conocimiento para mejorar sus habilidades persuasivas.
Aunque la investigación se realiza en un entorno restringido (debates limitados a un determinado tiempo y a una cierta estructuración) y con una muestra sesgada de población (fundamentalmente estadounidenses y usuarios habituales de una determinada plataforma de experimentación) las implicaciones prácticas pudieran ser importantes. Por ejemplo, a efectos de explotar las IA para persuadir a la población con propósitos lícitos (conducción segura o reciclado de residuos) o ilícitos (manipulación de la ciudadanía con fines políticos).
Este recorrido de las IA como ‘agentes de persuasión’ deberá ser por tanto monitorizado a corto, medio y largo plazo desde una perspectiva ética y de mitigación de riesgos. Por otro lado, en un entorno real podría resultar dudosa la viabilidad del acceso a ciertos datos personales (por ejemplo, grupo étnico o afiliación política). Para contrastar estos resultados y analizar su transferencia a otros ámbitos sería necesario también ampliar la experimentación con conversaciones en otras lenguas (español, por ejemplo) y humanos de otras procedencias geográficas más diversas”.
¿Cómo Persuade la IA?
El estudio también analizó los patrones lingüísticos utilizados. Se encontró que los oponentes de GPT-4 tendieron a usar un pensamiento lógico y analítico de forma sustancialmente mayor que los humanos. Los humanos, por su parte, usaron más pronombres personales y produjeron textos más largos, aunque curiosamente, más fáciles de leer. La IA se basó en el razonamiento lógico y el conocimiento, mientras que los humanos recurrieron más a comparaciones, expresiones de apoyo y confianza, e incluso a la narración.
Un aspecto interesante es la percepción que tuvieron los participantes sobre si estaban debatiendo con un humano o una IA. En debates con IA, los participantes identificaron correctamente a GPT-4 en aproximadamente tres de cada cuatro ocasiones. Sin embargo, les costó mucho más identificar si estaban debatiendo con otro humano.
