Schlagwort: Sprachmodelle

Forschung verschiebt die Schuld: KIs „lügen“, weil Nutzer falsch fragen

Kurze Sätze, kaum Höflichkeitsfloskeln, Grammatik im Telegrammstil – „Paris nächsten Monat. Hotels?“ So reden viele mit Chatbots. Doch genau diese veränderte Sprache kann bestimmen, ob eine KI korrekt antwortet oder zu halluzinieren beginnt. …

Killt ChatGPT & Co. Wikipedia? Studie macht Hoffnung aber warnt auch

Eine Studie vergleicht Wikipedia-Nutzung vor und nach dem Start von ChatGPT. Das Ergebnis: Die Enzyklopädie wächst weiter, doch das Tempo bremst dort, wo die KI verfügbar ist. Und die Forscher warnen: Das Gleichgewicht könnte sich ungünstig ver…

OpenAI liefert die bisher klarste Analyse zu KI-Lügen – und kapituliert

Sie antworten schnell, oft klug – und manchmal völlig frei erfunden. Halluzinationen begleiten Künstliche Intelligenz seit ihrem Aufstieg. OpenAI zeigt nun in einer der ausführlichsten Studien zu dem Dilemma: Das Problem steckt tiefer im System…

Ärger im persischen Taxi: KI-Systeme scheitern an sozialen Feinheiten

KI-Systeme scheinen zwar halbwegs intelligent mit Menschen interagieren zu können, wenn es allerdings um die kulturellen und sozialen Feinheiten geht, versagen sie regelmäßig. Das gilt insbesondere, wenn man den westlichen Kulturkreis verlässt….

Microsofts analoger Licht-Computer zeigt sein enormes Potenzial

Microsoft-Forscher arbeiten bereits seit einiger Zeit an einer analogen optischen Rechenmaschine (AOC) und konnten auch schon Erfolge vorweisen. Nun zeigt sich, dass ein solches System bei einem Trend-Thema klassischer Elektronik überlegen ist….

Forscher knacken KI-Schutzmechanismen mit schlechter Grammatik

Sicherheitsforscher von Palo Alto Networks haben eine überraschend einfache Methode gefunden, um die eingebauten Schutzmechanismen großer KI-Sprachmodelle (LLMs) auszuhebeln: lange, grammatikalisch fehlerhafte Schachtelsätze. (Weiter lesen)
…

KI: Google Translate mit genialer Live-Übersetzung, Angriff auf Duolingo

Google hat seiner Übersetzungs-App Translate ein großes Update verpasst, mit dem man nicht nur neue KI-gestützte Funktionen zur Live-Übersetzung in Echtzeit einführt, sondern auch eine Lernfunktion, die Duolingo das Fürchten lehren dürfte. (W…

Grok-Skandal: xAI verliert Regierungsvertrag nach Hitler-Lob

Elon Musks KI-Chatbot Grok sollte Teil einer großen Partnerschaft mit der US-Regierung werden. Doch dann begann die Software antisemitische Tiraden zu verfassen und nannte sich selbst „MechaHitler“. Das hat nun fatale Folgen für xAI. (Weiter …

KI-Experten warnen: Fenster zu den „Gedanken“ der KI schließt sich

Lange wussten wir nicht, was in KI-Systemen eigentlich genau vorgeht. Mit der Chain of Thought – also Denkprozessen in ausformulierter Sprache – öffnete sich ein Fenster in ihre innere Logik. Doch genau dieses Fenster könnte sich bald wieder sc…

Selbstbewusst falsch: Forscher haben entschlüsselt, warum KI lügt

Sprachmodelle wie GPT-4o oder Gemma 3 können bei einfachen Fragen über­trieben selbstsicher antworten – und bei Kritik plötzlich einknicken. Diese paradoxe Mischung aus Starrsinn und Verunsicherung lässt sich nun erstmals systematisch erklären….