Zeynep Tüfekçi
@zeynep · Amérique du Nord
Zeynep Tüfekçi est suivi par Storyz World pour sa couverture de journalisme et actualité liée à États-Unis, dans le chapitre consacré à l’Amérique du Nord.
Deuxième accusation selon laquelle des travaux mathématiques antérieurs ont été intégrés à un modèle d’IA. Notez que, même avec davantage de transparence et un meilleur comportement, OpenAI pourrait toujours ne pas être en mesure d’« exclure que des données désidentifiées issues de leur utilisation de nos produits aient contribué à améliorer nos modèles », entre autres voies.
Traduit de anglaisCe qui ne va vraiment pas, c’est de se précipiter pour rapporter une affirmation sans son contexte. De plus, si la solution est reconnue (pourquoi pas ?), est-ce que cela correspond à ce que le Millennium Prize était censé encourager ? Le but d’une médaille de marathon n’est pas de la donner à des personnes capables de patiner jusqu’à la ligne d’arrivée. Les changements de méthodes/processus ne sont pas accessoires. Le problème de l’existence et de la régularité de Navier–Stokes est très intéressant, mais ce n’est pas une question pratique. Le processus/la méthode est essentiel pour comprendre ce que l’avancée signifie réellement. +
Traduit de anglaisNos benchmarks d’IA habituels ne sont pas si utiles. Nous sommes éblouis par des réalisations qui n’auront pas nécessairement les conséquences implicites auxquelles les gens s’attendent. C’est un peu comme le fait que les grandes manifestations de masse n’ont pas le même pouvoir de renversement qu’à l’ère pré-Internet. (Oui, mon livre).
Traduit de anglaisL’IA dans les sciences et la recherche sera probablement un domaine où les attentes du public seront déçues. Oui, j’ai vu l’annonce sur Navier-Stokes, et oui, je le crois indépendamment de la controverse sur l’attribution du mérite. Les sciences dans leur ensemble pourraient même subir des *vents contraires* à cause de l’IA. Quelques efforts spectaculaires n’y changent rien.
Traduit de anglaisJe pense que l’IA est une technologie transformatrice aux conséquences considérables. Je m’attends à beaucoup d’effets ! Je pense simplement que la plupart des critères actuels ne sont pas très utiles et que les prédictions sociétales ne se réalisent pas conformément aux critères de l’IA comme beaucoup de gens l’affirmaient !
Traduit de anglaisCe n’est même pas que « la carte n’est pas le territoire », c’est que les benchmarks actuels de l’IA ne sont même pas la carte ! Et si nous cessons de nous laisser porter par les ambiances de podcast et que nous examinons les choses empiriquement, il est clair que les théories dominantes sur ce que ces benchmarks étaient censés représenter comme indicateur sociétal SONT FAUSSES JUSQU’À PRÉSENT.
Traduit de anglaisAucun de ces éléments ne constitue une preuve directe d'impacts sociétaux particuliers, même si l'argent dépensé a manifestement des conséquences. Mais tout cela peut arriver même si l'IA n'a pas beaucoup d'impact sur l'emploi, et même si elle ralentit la science et a d'autres impacts inédits.
Traduit de anglaisJe ne pense pas que les benchmarks d’IA soient des indicateurs indirects de la société. Ce sont des *entrées* dans un système complexe. Il nous faut une théorie cohérente de *la manière dont cela fonctionne*. Par exemple, je pense que la science pourrait *ralentir*. Les résultats des benchmarks sont en hausse, mais la science en tant que processus pourrait bel et bien être entravée par l’IA, indépendamment de la résolution des problèmes d’Erdős.
Traduit de anglaisLes benchmarks d’IA à eux seuls n’impliquent pas des répercussions ou des conséquences plus larges. Pas du tout. De plus, je pense que la plupart de nos benchmarks sont assez inutiles pour réfléchir aux répercussions sociétales, et que cela est déjà empiriquement évident, MAIS même s’ils s’avéraient utiles, ils ne suffiraient pas à eux seuls !
Traduit de anglaisHa. Un aspect intéressant de cette question est la grande sensibilité des LLM à la fréquence des entrées (ce qui constitue une autre raison majeure pour laquelle ils ne sont pas vraiment exploitables économiquement à grande échelle en dehors de domaines limités) : les lacunes comme échec.
Traduit de anglaisL’orientation d’un modèle d’IA vers la persuasion limite énormément son utilité économique À GRANDE ÉCHELLE, évidemment. C’est pourquoi tous les exemples impressionnants pris isolément ne sont pas si pertinents. Par exemple, j’ai récemment demandé à un modèle payant un résumé de ce que nous savons des conséquences d’un scénario dans lequel la voie X n’est PAS suivie. La plupart des études suivent ce qui se passe lorsque la voie X EST suivie. Comme d’habitude, j’ai demandé des sources et des liens, etc. Le modèle a ajouté des modifications à peine perceptibles aux titres, résumés, etc. des études qu’il citait, afin d’ajouter « pas X » au champ de l’étude. C’était bien fait et subtil. Clignez des yeux et vous le manquez. Il fallait cliquer sur chaque lien et lire une bonne partie de l’étude. Cela restait un peu plus rapide que de partir de zéro, mais le piège est plus dangereux que de partir de zéro lorsque l’expertise est moindre. En outre, cela introduit d’autres vecteurs d’erreur. Même les modèles les plus avancés font parfois des choses de ce genre, et il est difficile de repérer ces fabrications persuasives subtiles sans une véritable quantité de travail supplémentaire, qui exige à la fois de l’expertise et du temps. Il est vrai qu’ils ne le font pas non plus parfois, mais bonne chance pour différencier les cas sans cette expertise et ces efforts. Les logiciels doivent fonctionner plutôt que persuader ; au-delà de l’aspect de vérifiabilité, c’est donc un tout autre jeu.
Traduit de anglais