warum KI Verständnis nur vortäuscht

[TomS]

Ich hoffe, dieses Thema erscheint nicht zu sehr ad hominem – @antaris – ich halte es jedoch für wichtig, es hier separat zu thematisieren.

Meine These ist eigentlich recht einfach: Es verhält sich ähnlich wie mit einem Menschen, der zwar ein enormes Wissen auf Basis von Kochbüchern bis zu biologischen und medizinischen Werken besitzt, einen ausgezeichneten Geschmackssinn, bis zu einer Ausbildung als Restaurantkritiker – der jedoch noch nie in seinem Leben ein einziges Gericht selbst gekocht hat. Er kann schlicht nicht kochen. Das fällt jedoch in einer Unterhaltung über und beim Essen nicht auf, erst dann, wenn er das erste Mal in seinem Leben ein ausgezeichnetes Stück Fleisch in die Pfanne legt und daraus eine Schuhsohle produziert.

Genauso verhält es sich in unserem Kontext mit Mathematik und Physik, echtes Verständnis, entsteht erst beim tun – also beim Rechnen, Beweisen, beim Entwerfen von Theorien und Modellen, beim Konstruieren und Durchführen von Experimenten ... – und da insbs. beim Scheitern.

Nicht-triviales Scheitern ist essentiell, und zwar in zweierlei Hinsicht. Erstens lernt man daraus selbst tatsächlich am meisten, und zweitens ist es angesichts des enormen Wissens der heutigen KIs, der einzige Weg, um deren Verständnis wirklich zu prüfen. Der Grund ist, dass gescheiterte Ansätze häufig nicht veröffentlicht werden – eben da sie gescheitert sind. Sie sind also dass verborgene Wissen der Community, das sie den KIs voraus hat.

Meine Frage in die Runde, insbs. @ralfkannenberg und @Bernhard: hat jemand selbst nicht-triviales Scheitern erlebt oder kennt Fälle, was heute kein etabliertes Wissen in etablierten KI-Modellen darstellt. Bitte erst mal anhand von einigen KIs prüfen, dann nicht gleich hier rausposaunen. Ich habe selbst mal nachgedacht, für mich nicht-triviale Fälle kennt die KI leider, Beispiele folgen später.

 

[antaris]

Ich hoffe, dieses Thema erscheint nicht zu sehr ad hominem – @antaris

Nee überhaupt nicht

– ich halte es jedoch für wichtig, es hier separat zu thematisieren.

genau aber man muss ja vorher nochmal die rhetorische Frage stellen.

Mit dir kann man eh nur diskutieren, wenn man möglichst genau deine Position vertritt. Das geht ja nicht nur mir, sondern auch vielen anderen so. Ich mache mir da nix mehr draus.

 

[TomS]

Was meinst du mit meiner Position? Inhaltlich? Oder bezüglich sauberer Formulierung? Ja, bezüglich Letzterem bin ich ziemlich engstirnig

 

[antaris]

Was meinst du mit meiner Position? Inhaltlich? Oder bezüglich sauberer Formulierung? Ja, bezüglich Letzterem bin ich ziemlich engstirnig

Nee, du bist tatsächlich vor allem nur lauter als alle anderen.

 

[TomS]

Also bzgl. Lautstärke darfst du dich nicht beschweren

Lassen wir das, zurück zu den Sachen, wenn du magst.

 

[antaris]

Also bzgl. Lautstärke darfst du dich nicht beschweren

Ich beschwere mich nicht wegen der Lautstärke. Ein bisschen Reibung darf auch sein. In meinem Job gehört Reibung dazu und da geht es schnell mal um viel Geld, was verbrannt wird, wenn es schief läuft, weil irgendjemand nicht das macht, was er soll. Dagegen ist das hier mit dir ein Kaffekränzchen.

Ich habe großen Respekt vor deinem Wissen und Können, darum geht es nicht aber auch dein Wissen ist endlich und sicherlich mit einem Weltbild verknüpft, das wir beide möglicherweise nicht zwangsläufig teilen. Du denkst vielleicht, weil du ein sehr guter Physiker bist, muss dein Weltbild richtig und meins falsch sein aber du weißt ganz genau, dass niemand, auch ich nicht, bis zur "vollkommenen Wahrheit" durchdringen kann.

Und darum geht es mir aber auch gar nicht. Ich habe nicht vor diese vollkommene Wahrheit zu finden oder mein gesamtes Weltbild zu beweisen, denn das wäre wirklich Irrsinn. Mir geht es darum, dass das uns umgebende physikalische Universum möglicherweise "vollständig" mathematisch beschrieben werden kann, da bisher alle bisherigen untersuchten physikalischen Effekte -> Aspekte dieses Universums, mit Mathematik beschrieben werden konnten. Warum bitteschön soll das z.B. für den ominösen und vollkommen mystifizierten "Urknall", also den Anfang des uns umgebenden Universums gerade nicht mit "normaler Mathematik" möglich sein? Nur weil der Anfang keinen direkten Bezug zur bekannten Physik hat? Wenn der Ansatz Bezug zur bekannten Physik hätte, wie könnte er dann nicht zirkulär sein, wenn er behauptet, dass bekannte Physik rekonstruiert werden soll?

In den Threads hast du sehr viele Randbedingungen genannt und ich habe nie behauptet, dass sie Unsinn sind.

Lassen wir das, zurück zu den Sachen, wenn du magst.

Das ist, was ich schön öfter als sehr wünschenswert benannt hatte, wenn es zu ähnlichen Auseinandersetzungen kam.

 

[Sebastian Hauk]

Die KI kommt fast immer auf korrekte Lösungen. Wie die KI auf die Lösung kommt dürfte egal sein.

Die KIs aus China sollen zum Beispiel anders auf die Lösung kommen als die KI von Anthropic.

Laut der KI von Google.

Das ist eine faszinierende Beobachtung, die absolut zutrifft!

Chinesische KI-Modelle (wie DeepSeek, Qwen oder Ernie) nutzen oft grundlegend andere Lösungswege, Argumentationsketten und Denkmuster als westliche Modelle wie die von Anthropic (Claude) oder OpenAI.

Diese Unterschiede liegen nicht daran, dass eine Seite „schlauer“ ist, sondern resultieren aus der unterschiedlichen Architektur, den Trainingsdaten und den kulturellen Denkmustern.

Hier ist ein direkter Vergleich, warum und wie sie sich unterscheiden:

Der direkte Vergleich: Denkweisen im Überblick

Kriterium Anthropic (Claude) Chinesische Spitzen-KIs (z. B. DeepSeek, Qwen)

Fokus beim Denken Extrem strukturiert, akademisch, nuanciert und auf Sicherheit/Ethik bedacht. Pragmatisch, mathematisch-effizient und oft direkter bei Logikaufgaben.

„Chain of Thought“ (CoT) Reflektiert viel über Graubereiche und menschliche Absichten. Zerlegt Probleme radikal in logische Teilschritte (oft extrem stark in Mathe/Code).

Kultureller Kontext Westlich-analytisch (linear, hinterfragend, Fokus auf das Individuum). Ganzheitlich-kontextuell (systemorientiert, pragmatisch, Fokus auf das Kollektiv).

Wie DeepSeek laut Google rechnet:

3. Das "Nachdenken" vor der Antwort: Chain-of-Thought (CoT)
Bei den Reasoning-Modellen (wie DeepSeek-R1) kommt ein verändertes Berechnungsverfahren zur Anwendung:
• Anstatt sofort das nächste Wort auszugeben, wird das Modell über Reinforcement Learning (Bestärkendes Lernen) dazu gezwungen, eine unsichtbare Kette von Denkschritten zu berechnen.
• Es simuliert verschiedene Lösungswege, korrigiert eigene mathematische Fehler im Hintergrund selbst und gibt erst dann die finale Antwort aus.

Um die Menschheit zu schützen gibt es keine europäische KI. Viel Sinn ergibt das nicht, wenn es halt KIs in China und den USA gibt die ständig verbessert werden.

 

[TomS]

Ich habe großen Respekt vor deinem Wissen und Können, darum geht es nicht aber auch dein Wissen ist endlich und sicherlich mit einem Weltbild verknüpft, das wir beide möglicherweise nicht zwangsläufig teilen.

Danke. Und ja, vermutlich haben wir ein unterschiedliches Weltbild – was nicht schlimm ist, denn nur über Widersprüche kann man konstruktiv streiten.

Du denkst vielleicht, weil du ein sehr guter Physiker bist, muss dein Weltbild richtig und meins falsch sein …

Nein, das denke ich nicht, weder über dich noch über mich, und zwar aus diversen Gründen.

Erstens hatte ich – seit ich mich eher mit fundamentalen Fragen in der Quantenmechanik befasse – schon mehrere Weltbilder, keines davon hat mich je wirklich überzeugt, es war immer das geringste Übel, das nachfolgende hatte jeweils einige Vorteile mehr und dafür Nachteile weniger, und das jetzige hat den unbestreitbaren Vorteil, das es das erste ist, das man eventuell mathematisch widerlegen kann. Ich hoffe auch, dass ich es bald klarer und einfacher präsentieren kann.

Bei deinem Weltbild vermute ich, dass sich dein Blick für dich durchaus schärft und sich die Situation klärt, ich glaube jedoch nicht, dass viele deine Sichtweise teilen. Das liegt nicht daran, dass ich dein Weltbild für falsch halte, dazu müsste ich es erst mal verstehen.

Mir geht es darum, dass das uns umgebende physikalische Universum möglicherweise "vollständig" mathematisch beschrieben werden kann, da bisher alle bisherigen untersuchten physikalischen Effekte -> Aspekte dieses Universums, mit Mathematik beschrieben werden konnten. Warum bitteschön soll das z.B. für den ominösen und vollkommen mystifizierten "Urknall", also den Anfang des uns umgebenden Universums gerade nicht mit "normaler Mathematik" möglich sein?

Kein Widerspruch meinerseits.

Das ist, was ich schön öfter als sehr wünschenswert benannt hatte, wenn es zu ähnlichen Auseinandersetzungen kam.

ich kann dir noch nur nochmals raten, (m)ein Spielzeugmodell präzise und klar von vorne bis hinten eigenständig zu durchdenken und zur Diskussion zu stellen. Das meiste lernt man aus Fehlern, und Fehler erkennt man am schnellsten, wenn man gezwungen ist, die eigene – falsche – Idee zu erklären.

 

[antaris]

Zum Verständnis und AI-Nutzung.
Ich gebe dir insofern recht, dass eine AI

1. mit ihren Trainingsdaten begrenzt ist
2. bei "Randthemen" Aufgrund von 1. schwammig Aussagen treffen kann
3. eher "mitziehiehend", als "stoppend" agiert, im Sinne, dass sie halbwegs plausible Geschichten nicht wirklich hinterfragt

Aber mit entsprechende Nutzung von Primärquellen bezieht man sich auf explizite Formalismen und agiert nicht mehr nur innerhalb der Trainingsdaten. Der Gesamtkontext ist durch "tooling" erweiterbar und kann zudem zumindest formal mittels lean eingeschränkt werden. Das erste gibt viel Freiheit, das zweite nimmt sie aber nur zum Teil wieder. Damit kann man den Kontext technisch einengen. Dazu kommt selber denken und diskutieren mit andere, was den Kontext durch menschliche Schärfung noch viel effektiver einschränkt.

Eine AI ist zudem schon sehr gut geeignet einzelne/mathematische Experimente z.B. mit Python durchzuführen. Die Scripte kann man sich anschauen/erklären/gegen entsprechende Literatur legen lassen, damit kann auch ein ein Verständnis aufgebaut werden. Das ist in dem Fall nur interaktives lernen. Im Fall des Baums sind das nur Berechnungen von Leitwerte/Widerstände, z.B. als effektive Response-Geometrie nach eliminieren des Wurzelknoten des Sterns, als Dreieck "verschalten", was eine Kombination aus Reihen- und Parallelschaltung der Widerstände ist.

Siehe z.B. Fig. 1 in https://arxiv.org/pdf/1102.2950

Man kann sich also sehr intensiv und ich würde sagen auch sehr präzise entlang etablierter Theorien bewegen. Das habe ich z.B. sehr intensiv mit dem b-ären Baum gemacht. Der genutzte Formalismus ist ganz einfach und ich verstehe ihn auch physikalisch. Es handelt sich um Widerstands-/Leitwertnetzwerke und im Grunde werden immer nur Knoten des Baums eliminiert und als Randdaten behalten. Ich verstehe diese Sprache sehr wohl.

Was problematisch wird, ist wenn man versucht über den untersuchten "Kern" hinaus Hypothesen zu bilden, wie z.B. für ein "selbstorganisierendes" Wachstum weiterer Knoten des Baums. Da wird der Blumenstrauße der "Möglichkeiten" sehr groß und wenn man in einer Stunde 10 völlig verschiedene Möglichkeiten untersucht, dann endet das tatsächlich eher in Reizüberflutung, anstelle von echten Verständnis.

Das bedeutet aber nicht, dass man weniger lernen kann, als mit durchklicken von Wikipedia oder vielen lesen. Da vergisst man am Ende manchmal fast, wonach man am Anfang eigentlich gesucht hat.

ich kann dir noch nur nochmals raten, (m)ein Spielzeugmodell präzise und klar von vorne bis hinten eigenständig zu durchdenken und zur Diskussion zu stellen. Das meiste lernt man aus Fehlern, und Fehler erkennt man am schnellsten, wenn man gezwungen ist, die eigene – falsche – Idee zu erklären.

In dein Spielzeugmodell müsste ich mich ehrlich gesagt erst reindenken. Ich fange nicht mit Zahlen an, sondern mit elektrischen Netzwerken und das einfachste ist ein Stern.
Aber ja, wenn ich das Wachstum außen vor lasse, dann kann man das mit Standardmitteln zu elektrischen, insbesondere sternförmige Netzwerke als "Minimalmodell" formulieren, man darf halt nicht erwarten, das insbesondere schon eine (M,g), Gravitation, Zeit oder all das, was viel später erst erhalten werden soll, jetzt schon als Ergebnis herausfällt.

Was man dann m.E. sehr gut erkennen kann, sind aus meiner Sicht mögliche strukturelle Vorläufer "der großen Tempelanlagen der Physik". All das geht mit einem root- und 1-4 Kinderknoten. Es würde weder Wachstum, noch ein Baum mit größerer Tiefe benötigt.

 

[TomS]

Beim Vortäuschen von Wissen ging es mir nicht so sehr darum, dass die KI Wissen vortäuscht, sondern darum, dass man selbst durch die Nutzung von KI und weiteren Tools Wissen vortäuscht – siehe das Beispiel des Feinschmeckers, der nicht kochen kann.

Mein Spielzeugmodell wäre evtl. ein Thema für einen neuen Thread. Den Startpunkt darfst du dir gerne aussuchen, das muss nicht meiner sein. Mit ging es um ein deutlich einfacheres Ziel als dein bisheriges, dafür aber die vollständig eigenständige Erarbeitung des Wegs dahin – ohne weitere Tools.

 

[ralfkannenberg]

Meine Frage in die Runde, insbs. @ralfkannenberg und @Bernhard: hat jemand selbst nicht-triviales Scheitern erlebt oder kennt Fälle, was heute kein etabliertes Wissen in etablierten KI-Modellen darstellt.

Hallo Tom,

als nicht phD, also nur Diplom, hat man irgendwie keine Gelegenheit, nicht-trivial zu scheitern, zumal einen ausserhalb des Institutes kaum jemand kennt. Ausserdem moechte man sein Diplom moeglichst schnell erwerben, d.h. nicht-triviales Scheitern ist dann primaer ein voellig unerwuenschter Zeitverlust, von dem ich zum Glueck verschont blieb.

Im Berufsleben kam nicht-triviales Scheitern oft vor, d.h. dass der Projektleiter massiv Druck gemacht hat, wir auch am Sonntag - nota bene gratis, weil im Kanton Zuerich die Linken, Gruenen und Gewerkschaften durchgesetzt haben, zum "Schutz" der Belegschaft Sonntagsarbeit zu verbieten, so dass man das heimlich tun musste und gar nichts dafuer bekam. Am Ende war das Projekt sogar erfolgreich abgeschlosssn, doch der Markt und die Nachfrage haben sich veraendert ... - aber irgendwie sind solche Projekte in der privaten Marktwirtschaft akademisch zu wenig anspruchsvoll, als dass man da irgendetwas Weltbewegendes daraus lernen koennte.

Meine Antwort ist also ein banales "nein".

Freundliche Gruesse, Ralf

 

[ralfkannenberg]

Nee, du bist tatsächlich vor allem nur lauter als alle anderen.

Hallo Antaris

gut, dass ich mich da schon seit langer Zeit ausgeklinkt habe, so dass diese "Ehre" mir nicht mehr zuteil wird.

Freundliche Gruesse, Ralf

 

[antaris]

Hallo Antaris

gut, dass ich mich da schon seit langer Zeit ausgeklinkt habe, so dass diese "Ehre" mir nicht mehr zuteil wird.

Freundliche Gruesse, Ralf

Hallo Ralf,

danke! Aber auch du darfst natürlich laut sein.
Berechtigte Kritik in der Sache ist immer sehr willkommen bzw. explizit gewünscht.

 

[ralfkannenberg]

Ich habe großen Respekt vor deinem Wissen und Können, darum geht es nicht aber auch dein Wissen ist endlich und sicherlich mit einem Weltbild verknüpft, das wir beide möglicherweise nicht zwangsläufig teilen. Du denkst vielleicht, weil du ein sehr guter Physiker bist, muss dein Weltbild richtig und meins falsch sein aber du weißt ganz genau, dass niemand, auch ich nicht, bis zur "vollkommenen Wahrheit" durchdringen kann.

Hallo Antaris,

ich denke, hier sprichst Du einen ganz wesentlichen Punkt an, den ich immer wieder so verstanden habe, dass Du et al. das naturwissenschaftliche Weltbild als zu eingeschraenkt empfindest.

Ja sogar ich stimme dieser Erkenntnis grundsaetzlich zu, aber dennoch vermisse ich etwas: was konkret fehlt ? In der Physik sind wir uns eigentlich alle einig, dass die Allgemeine Relativitaetstheorie oder das Standardmodell der Elementarteilchen unvollstaendig sein muessen, dennoch funktionieren sie sehr gut und die Physik hat noch nicht verstanden, was konkret felt, und das erscheint mir als bestenfalls stillem Mitleser der Hauptgrund Deiner gelegentlichen Dissonanzen zu Tom, also in dem Stil "fachlich hast Du ja recht, aber das genuegt in diesem Kontext nicht". Aber das, was konkret fehlt, wird irgendwie nie konkret angesprochen, mit dem Ergebnis, dass Fachleute wie Tom im AI-Umfeld fast jedesmal ins Leere laufen.

Und solange das nicht mehr konkret spezifiziert wird wuerde auch ich das naturwissenschaftliche Weltbild als das zu favorisierene Weltbild bezeichnen, wohl wissend, dass es unvollstaendig ist. Aber die Einbettung in eine konsistente Theorie in Kombination mit der experimentellen Ueberpruefung auf - bei geeigneter Normierung - hinreichend viele Nachkommastellen sind eben schon ein sehr gutes Argument fuer die Guete des naturwissenschaftlichen Weltbildes.

Freundliche Gruesse, Ralf

 

[antaris]

Hallo Ralf,

ich denke, hier sprichst Du einen ganz wesentlichen Punkt an, den ich immer wieder so verstanden habe, dass Du et al. das naturwissenschaftliche Weltbild als zu eingeschraenkt empfindest.

nicht nur ich, denn auch die Physik sucht ja nach Erklärungen, die über das aktuelle/etablierte naturwissenschaftliche Weltbild hinausgehen.

aber dennoch vermisse ich etwas: was konkret fehlt ?

Das kann man immer erst wissen, wenn man es gefunden hat aber ich denke "mein Weltbild" ist an dieser Stelle nicht wesentlich anders, als das der Physiker.

Gesucht wird eine Mikrostruktur und in meinem Denken am besten eine, mit der sich, trotz sehr primitiven Eingaben am Anfang das etablierte Weltbild rekonstruieren lässt.
Es ist ja "nur" unvollständig, nicht falsch und letzteres habe ich auch nie behauptet. Im Gegenteil suche ich ja gerade nach Verbindungen zwischen etablierten Theorien. Da kommt es mir sehr gelegen, dass z.B. die Konstruktion von Q nicht mehr auf einen Formalismus beruht, den ich mir ausgedacht oder mit der AI erarbeitet habe. es ist genau das was ich wollte -> etablierte Theorien nutzen.

Rein vom Lerneffekt her war der Weg über Krücken, Umwege und aussortieren unzureichender Ideen viel besser, als hätte mir irgendjemand vorher gesagt, nimm doch einfach die Stern-Brocot-Konstruktion. Ich dürfte sie alleine finden.

Aber das, was konkret fehlt, wird irgendwie nie konkret angesprochen, mit dem Ergebnis, dass Fachleute wie Tom im AI-Umfeld fast jedesmal ins Leere laufen.

Ich verstehe das sehr gut. Es fehlt aber eine Mikrostruktur und das ist es, um was es sich bei mir seit Jahre dreht. Die Frage ist wie man da hin kommt und wie man, wenn man etwas hat, weiterkommt. Das ist Exploration. Kolumbus dachte ja auch er wäre in Indien aber gelandet war er an neues Land. Der weg nach Indien war bekannt aber er suchte halt einen neuen Weg und fand etwas ganz anders. Gold, Edelsteine und besondere Früchte konnten zumindest genügend geplündert werden, insofern war "der Misserfolg" doch nicht Indien gefunden zu haben, letztlich ein Erfolg (zumindest) für die alte Welt.

Und solange das nicht mehr konkret spezifiziert wird wuerde auch ich das naturwissenschaftliche Weltbild als das zu favorisierene Weltbild bezeichnen, wohl wissend, dass es unvollstaendig ist. Aber die Einbettung in eine konsistente Theorie in Kombination mit der experimentellen Ueberpruefung auf - bei geeigneter Normierung - hinreichend viele Nachkommastellen sind eben schon ein sehr gutes Argument fuer die Guete des naturwissenschaftlichen Weltbildes.

Wie gesagt. Ich glaube nicht das man "das gute alte Weltbild" ersetzen muss. Im Gegenteil...es muss vervollständigt werden.

Was ich sagen kann ist, dass im aktuellen code weitaus mehr implementiert ist, als nur rationale Zahlen auf Knoten eines Baums.
Es ist bereits ein echtes handfestes Zwischenergebnis erreicht aber es wird noch eine Weile dauern, bis wir das bis zu dem Punkt diskutiert haben.

Hier ist vor allem erstmal der Weg das Ziel.

 

[TomS]

Zum andereren Thread:

Du hast mir sogar absichtliches Vortäuschen von Wissen unterstellt.

Du hättest dich unmittelbar hier äußern können, wenn du dich angegriffen gefühlt hättest, aber du hast damals ganz anders reagiert:

Nee überhaupt nicht

Außerdem war das kein Vorwurf oder Unterstellung, sondern zunächst mal eine These. Konkret fühle ich mich von dir nicht getäuscht, weil ich ja weiß, wie deine Beiträge zustandekommen, und weil ich anhand der Diskussionen mit dir lerne, was du selbst weißt, und was nicht.

Es ging mir darum, sachlich deine Methodik zu kritisieren, denn

… echtes Verständnis, entsteht erst beim tun – also beim Rechnen, Beweisen, beim Entwerfen von Theorien und Modellen …

und weil

Generative AI and Cognitive Offloading in Higher Education: Implications for Learning, Knowledge Production, and Academic Thinking | European Journal of Applied Science, Engineering and Technology

ejaset.com

Was ich tatsächlich kritisiere, ist die Tatsache, dass das, was man als gemeinsames Wissen von dir plus KI bezeichnen könnte, nirgendwo greifbar ist.

Deswegen die Bitte, dies hier selbst vollständig und mit eigenen Worten formal sauber und konsistent aufzuschreiben (nicht verteilt hier, in bzw. mit der KI, in Lean …)

 

[antaris]

Du hättest dich unmittelbar hier äußern können, wenn du dich angegriffen gefühlt hättest, aber du hast damals ganz anders reagiert:

Das habe ich direkt in Beitrag #2 aber ok, ich schreib das nächste Mal dran, wenn eine Aussage von mir ironisch gemeint ist...

In #5 wolltest du zurück zur Sache, dem ich zugestimmt habe. In #9 habe ich mal wieder erläutert was ich denke und dann in #10 dein Vorwurf sinngemäß "nicht die KI täuscht Wissen vor, sondern der Anwender". Du hast mich da nicht direkt erwähnt aber im Zusammenhang mit Beitrag #1 ist doch wohl ziemlich klar, welcher Anwender damit gemeint war.

Von "kein Vorwurf" kann also keine Rede sein und damit meine ich nicht, dass die eine vernünftige Darstellung fehlt. Letzteres stimmt und das ist auch kein persönlicher Vorwurf, sondern ein methodischer, den ich natürlich akzeptiere.


Aber was solls, es kostet nur Nerven sich über diese Metathemen zu streiten.

 

[TomS]

Das habe ich direkt in Beitrag #2 aber ok, ich schreib das nächste Mal dran, wenn eine Aussage von mir ironisch gemeint ist...

Ironie kann eine Diskussion auslösen, sie jedoch nicht ersetzen.

Von "kein Vorwurf" kann also keine Rede sein …

Ok, akzeptiere ich. Wenn das deine Wahrnehmung ist, dann kann ich das nicht abstreiten.

 

[Jakito]

Ich hoffe, dieses Thema erscheint nicht zu sehr ad hominem – @antaris

Nee überhaupt nicht

Genau, warum auch. TomS schreibt ja über KIs, nicht über KI Benutzer.

Das habe ich direkt in Beitrag #2 aber ok, ich schreib das nächste Mal dran, wenn eine Aussage von mir ironisch gemeint ist...

OK, also war es doch zu sehr "ad hominem"?

Mein Problem für mich, wenn TomS über KI philosophiert, ist, dass ich mich nicht von der Vermutung befreien kann, die persönlichen Erfahrungen von TomS würden sich auf die freie Version von Google-KI beschränken.

Natürlich hat auch TomS die Ergebnisse anderer KIs gesehen, wenn andere mit den KIs interagiert haben, und sich seinen Teil gedacht. Aber er hat nicht selbst mit den KIs interagiert, auch nicht mit den freien Versionen von ChatGPT oder Claude.

Das Problem daran ist, dass Anthropic, Google, und OpenAI massive wirtschaftliche Interessen haben, die stärker als jegliche technische oder fundamentale Einschränkung beeinflusst, wie sich die entsprechenden KIs verhalten.

Aus meiner Sicht ist ChatGPT anstrengend, weil OpenAI keine klare Zielgruppe hat. Aber dumm ist ChatGPT nicht, nur ein unerträgliches Plappermaul. Anthropic ist teuer, weil die Mitte November an die Börse gehen, sich auf eine spezielle Zielgruppe fokusiert haben (für die TOC wichtiger ist als die laufenden monatlichen Kosten), und deshalb die Claude Benutzung nicht übermäßig subventionieren wollen (das Training ist ja schon Subvention genug).

 

[TomS]

Aber er hat nicht selbst mit den KIs interagiert, auch nicht mit den freien Versionen von ChatGPT oder Claude.

Doch, hat er.

Und die Ergebnisse reichen von beeindruckend bis hin zu besch...

Im beruflichen Bereich stelle ich fest, dass du mit KI heute nicht verlässlich Software entwickeln kannst, weil du sehr schlecht sicherstellen kannst, dass sie keine Regeln bricht. Du baust ständig Leitplanken, Software die prüft, ob diese eingehalten werden usw. Wenn du Software für Webshops baust, mag das ja unproblematisch sein, aber bei validierter Software für mission-critical Anwendungen in Industrieanlagen mit garantierten Verfügbarkeit von Updates überJahrzehnte ist das etwas anderes.

Hast dun schonmal Code eines erkranken Kollegen verstehen und fixen müssen? Mach das mal für eine zig-fach "produktivere" KI.

Das Problem daran ist, dass Anthropic, Google, und OpenAI massive wirtschaftliche Interessen haben, die stärker als jegliche technische oder fundamentale Einschränkung beeinflusst, wie sich die entsprechenden KIs verhalten.

Ja.

Und die ganze Arbeit im Umfeld der Mathematik dient nur dazu, die Blase aufzublasen und davon abzulenken, dass es aktuell kein vernünftiges Geschäftsmodell gibt. Hinter dem Sicherheits-Therma steckt ähnliches: "bitte reguliert uns, damit wir hinterher einen Schuldigen haben, oder damit zumindest kleinere Unternehmen sterben, die wir ggf. übernehmen können; oder reguliert uns nicht, dann seid ihr selbst schuld".

Aber dumm ist ChatGPT nicht, nur ein unerträgliches Plappermaul.

Dummheit hängt stark vom Themengebiet ab.

Und die Geschwätzigkeit kann man mittels Masterprompt schon deutlich reduzieren. Aber es gilt das selbe wie oben bei der Software, manchmal bricht das Ding halt die Regeln.

Ein Beispiel, welchen Murks das Ding bauen kann (nur ein kleiner Ausschnitt aus einigen hundert Zeilen).

assess the code following and check for logical and mathematical inconsistencies:

# functions ----------

def get_euler(vertices, faces, edges):
    V = len(vertices) 
    F = len(faces)
    E = len(edges)
    chi = V + F - E

    # assert V - E + F == 2
    # assert E == 3 * V - 6

return V, F, E, chi

B. The Euler characteristic has the wrong sign.

Your function computes

chi = V + F - E

For a triangulation of the sphere, the standard formula is ... The implementation should therefore use:

chi = V - E + F