Künstliche Intelligenz

231 readers

2 users here now

Alles zum Thema künstliche Intelligenz,
#ai #ki #artificial-intelligence

Attribution

banner by deep-ai
icon by Freepik - Flaticon

founded 2 years ago

MODERATORS

[email protected]

KI: Es hapert beim Umkehrschluss (www.scinexx.de)

submitted 1 year ago* (last edited 1 year ago) by [email protected] to c/[email protected]

4 comments fedilink hide all child comments

Manko in der Logik: KI-Systeme wie GPT haben offenbar ein grundlegendes Problem mit logischen Umkehrschlüssen, wie eine Studie belegt. Demnach verstehen die großen Sprachmodelle oft nicht, dass, wenn A gleich B ist, auch B gleich A sein muss – ein Mensch versteht dies dagegen instinktiv.

Paper: The Reversal Curse: LLMs trained on "A is B" fail to learn "B is A" | PDF

you are viewing a single comment's thread
view the rest of the comments

[–] [email protected] 5 points 1 year ago (2 children)

Natürlich tun sie das nicht. Die Dinger generieren Text. Nichts weiter. Das sind einfach nur Programme die sehr gut voraussagen können welches Wort wohl als nächstes kommt basierend auf den Worten davor... Da ist keine Logik drin. Es sind nur Worte aneinandergereiht.

[–] [email protected] 7 points 1 year ago

Leicht komplizierter aber ja, es geht nicht um einzelne Worte sondern schon um Satzbestandteile. Es wird Sprache gut imitiert, nicht Wissen.

[–] [email protected] 2 points 1 year ago* (last edited 1 year ago) (1 children)

Ich nenne sie immer "glorifizierte Suchmaschine". In gewisser Weise "sucht" ChatGPT halt in einer großen Datebank nach Antworten, die mehr oder weniger auf die Frage passen.

Im realen Leben antworten Menschen auch oft so, wenn sie nicht richtig zuhören. Oder wenn sie Politiker sind und sich nicht aufs Glatteis bringen lassen wollen.

Edit: Da passiert natürlich noch viel mehr, aber einfach eine Antwort auf eine ähnliche Frage zu geben, steckt schon irgendwie drin.

[–] [email protected] 3 points 1 year ago

Das ist glaube ich eine der besten Beschreibungen für untechnische Menschen. Stell dir vor du bist auf einer lauten Party, das Gegenüber hat nur so drei Worte deines letzten Satzes verstanden und versucht jetzt die Konversation aufrecht zu erhalten und irgendwie zu antworten. Irgendwie passt es wahrscheinlich zu dem was du gesagt hast, aber es ist manchmal hart am Thema vorbei und oft komplett erfunden.