Zeynep Tüfekçi
@zeynep · Nordamerika
Zeynep Tüfekçi wird von Storyz World für die Berichterstattung über Journalismus und Zeitgeschehen mit Bezug zu Vereinigte Staaten im Kapitel Nordamerika verfolgt.
Zweiter Vorwurf, dass frühere mathematische Arbeiten in ein KI-Modell eingeflossen sind. Beachten Sie, dass OpenAI selbst bei mehr Transparenz und besserem Verhalten möglicherweise weiterhin nicht ausschließen kann, dass de-identifizierte Daten, die aus ihrer Nutzung unserer Produkte gewonnen wurden, unter anderem zur Verbesserung unserer Modelle beigetragen haben.
Übersetzt aus EnglischFalsch ist eigentlich, vorschnell eine Behauptung ohne den Kontext zu melden. Wenn die Lösung außerdem anerkannt wird (warum nicht?), entspricht sie dann dem, was der Millennium-Preis eigentlich fördern sollte? Der Sinn einer Marathonmedaille besteht nicht darin, sie Menschen zu geben, die auf Rollschuhen ins Ziel fahren können. Änderungen an Methoden/Prozessen sind keine Nebensächlichkeiten. Das Existenz- und Glattheitsproblem von Navier–Stokes ist ein sehr cooles Problem, aber keine praktische Frage. Der Prozess/die Methode ist entscheidend dafür, was der Fortschritt tatsächlich bedeutet. +
Übersetzt aus EnglischUnsere gängigen KI-Benchmarks sind nicht besonders nützlich. Wir lassen uns von Leistungen blenden, die nicht unbedingt die ihnen zugeschriebenen Folgen haben werden, die Menschen erwarten. Das ist ein bisschen so, wie große Massenproteste nicht dieselbe umstürzlerische Kraft haben wie in der Zeit vor dem Internet. (Ja, mein Buch).
Übersetzt aus EnglischKI in Wissenschaft und Forschung sind wahrscheinlich Bereiche, in denen die Erwartungen der Öffentlichkeit enttäuscht werden. Ja, ich habe die Ankündigung zu Navier-Stokes gesehen, und ja, ich glaube das unabhängig von der Kontroverse um die Urheberschaft. Die Wissenschaft insgesamt könnte wegen der KI sogar mit *Gegenwind* konfrontiert werden. Ein paar spektakuläre Anstrengungen ändern daran nichts.
Übersetzt aus EnglischIch denke, dass KI eine transformative Technologie von großer Tragweite ist. Ich erwarte viele Auswirkungen! Ich denke einfach, dass die meisten aktuellen Benchmarks nicht sehr nützlich sind und dass die gesellschaftlichen Prognosen nicht entsprechend den KI-Benchmarks eintreten, wie viele Menschen behauptet hatten!
Übersetzt aus EnglischEs ist nicht einmal so, dass „die Karte nicht das Gebiet ist“, sondern dass die aktuellen KI-Benchmarks nicht einmal die Karte sind! Und wenn wir die Podcast-Stimmungen beiseitelassen und empirisch hinschauen, ist klar, dass die vorherrschenden Theorien darüber, wofür diese Benchmarks als gesellschaftlicher Ersatz dienen sollten, bisher FALSCH SIND.
Übersetzt aus EnglischNichts davon ist ein direkter Beweis für bestimmte gesellschaftliche Auswirkungen, obwohl das ausgegebene Geld offensichtlich folgenreich ist. Aber all das kann geschehen, selbst wenn KI die Beschäftigung nicht wesentlich beeinflusst und selbst wenn sie die Wissenschaft verlangsamt und andere neuartige Auswirkungen hat.
Übersetzt aus EnglischIch glaube nicht, dass KI-Benchmarks Stellvertreter für die Gesellschaft sind. Sie sind *Eingaben* in ein komplexes System. Wir brauchen eine kohärente Theorie darüber, *wie*. Zum Beispiel glaube ich, dass die Wissenschaft *langsamer werden* könnte. Die Benchmark-Werte steigen, aber die Wissenschaft als Prozess könnte durch KI durchaus behindert werden, unabhängig vom Lösen von Erdős-Problemen.
Übersetzt aus EnglischDie KI-Benchmarks allein lassen keine weiterreichenden Auswirkungen oder Konsequenzen erkennen. Überhaupt nicht. Außerdem halte ich die meisten unserer Benchmarks für ziemlich nutzlos, wenn es darum geht, über gesellschaftliche Auswirkungen nachzudenken, und das ist empirisch bereits offensichtlich, ABER selbst wenn sie nützlich wären, reichen sie allein nicht aus!
Übersetzt aus EnglischHah. Eine interessante Wendung dabei ist die hohe Empfindlichkeit von LLMs gegenüber der Häufigkeit der Eingaben (was ein weiterer wichtiger Grund dafür ist, dass sie außerhalb begrenzter Anwendungsbereiche in großem Maßstab wirtschaftlich nicht besonders nutzbar sind): Lücken als Versagen.
Übersetzt aus EnglischDie Ausrichtung eines KI-Modells auf Überzeugung schränkt seinen wirtschaftlichen Nutzen im großen Maßstab offensichtlich stark ein. Deshalb sind all die einzelnen beeindruckenden Beispiele nicht besonders relevant. Ich habe zum Beispiel kürzlich ein kostenpflichtiges Modell um eine Zusammenfassung dessen gebeten, was wir über die Folgen eines Szenarios wissen, in dem der Weg X NICHT eingeschlagen wird. Die meisten Studien verfolgen, was passiert, wenn der Weg X eingeschlagen wird. Wie üblich bat ich um Quellen und Links und so weiter. Das Modell fügte den aufgeführten Studientiteln, Abstracts usw. kaum wahrnehmbare Änderungen hinzu, indem es „nicht X“ in den Untersuchungsumfang aufnahm. Es war gut und subtil. Einmal blinzeln, und man übersieht es. Man musste auf jeden Link klicken und einen guten Teil der Studie lesen. Das war immer noch etwas schneller, als bei null anzufangen, aber die Falle ist gefährlicher als ein Neuanfang, wenn die Fachkenntnisse geringer sind. Außerdem führt sie weitere Fehlerquellen ein. Selbst die fortschrittlichsten Modelle tun so etwas manchmal, und diese subtilen Überzeugungsfälschungen sind ohne erheblichen zusätzlichen Aufwand schwer zu erkennen; dafür braucht man sowohl Fachkenntnisse als auch Zeit. Es stimmt, dass sie das manchmal auch nicht tun, aber viel Glück dabei, die Fälle ohne die entsprechende Fachkenntnis und Mühe auseinanderzuhalten. Software muss funktionieren, statt zu überzeugen. Abgesehen von der Überprüfbarkeit ist das also ein anderes Spiel.
Übersetzt aus Englisch