Comment la publicité influence les résultats des IA (LLMs)

À l'image des moteurs de recherche traditionnels (comme Google), de plus en plus de LLMs incluent des réponses alimentées par des publicités, ou intègrent des publicités discrètement au texte de leurs réponses. Les publicitaires paient donc pour manipuler les réponses. Et pour le moment, rien ne garantit que ces publicités soient identifiées clairement. Tant que celles-ci seront présentes, les IA LLMs accorderont évidemment plus de probabilité d'inclusion à ces contenus publicitaires qu'au contenu issu de référencement dit «organique», peu importe les efforts que les créateurs de contenu y mettront.

Et l'investissement des publicitaires risque d'être sans précédent : l'impact de la publicité sur un IA génératif (LLM) est plus sournois et extrêmement plus puissant que celui d'un moteur de recherche traditionnel (comme Google). Il a été démontré que d'entretenir une discussion avec un LLM a autant de pouvoir de persuasion qu'une discussion avec un humain. Cela en fait donc de redoutables outils de vente et de persuasion.

Cela est d'ailleurs de plus en plus reconnu à travers le monde par les législateurs. Une pression grandissante s'effectue sur les gouvernements (surtout en Europe) pour que davantage d'investissements soient faits dans des IA ouvertes et libres, où le capitalisme aurait une moins grande influence. En Ontario aussi, une initiative s'organise pour encadrer l'IA.

Dans le même sens, des organisations comme Law Zero développent des moyens techniques d'assurer que les modèles de IA ne menacent pas l'intégrité de leurs utilisateurs.

Tant que cela ne sera pas régulé, la somme investie en publicité risque d'avoir plus d'influence que la qualité du contenu et du site web.