Hallo zusammen!
Willkommen zur neuen Ausgabe der Künstlichen Findigkeit!
In dieser Ausgabe:
Sicherheit: Große Polizeiaktion gegen Malware, neue Sicherheitslücken in Apps und Infrastruktur, und raffinierte Angriffe auf Domains und Software-Lieferketten.
KI / Tech: Penrose und das Bewusstseinsproblem der KI, aktuelle Forschung zu KI-Kontrolle, neue Open-Source-Tools und Frameworks.
Privatsphäre: Meta will öffentliche Nutzerbeiträge für KI-Training nutzen, erstmals wurde eine besonders strikte regionale Internet-Firewall in China dokumentiert.
Menschen: Nature-Livestreams als Wohlfühltrend, Machtkämpfe bei OpenAI und die gesellschaftlichen Folgen der KI-Entwicklung.
Ideen: Wertverlust bei E-Autos und Karaoke als Feature im globalen Autowettbewerb.
Entdeckungen: Ein Bastler baut einen funktionsfähigen Mini-Macintosh mit Raspberry Pi Pico.
Lesetipp: Im aktuellen Blogpost Warum KI (noch lange) keine echte Intelligenz hat geht es darum, warum heutige KI-Systeme zwar beeindruckend rechnen, aber kein echtes Bewusstsein besitzen – und was das für die Zukunft der Technologie bedeutet.
Viel Spaß beim Lesen!
Sicherheit
Bei der Operation Endgame 2.0 haben internationale Strafverfolgungsbehörden einen großen Schlag gegen Malware-Ersteller und -Verteiler geführt. Die Behörden beschlagnahmten Domains, verhafteten Verdächtige und erlangten Zugriff auf 15,3 Millionen E-Mail-Adressen sowie 43,8 Millionen Passwörter von Opfern. Diese Daten wurden dem Have-I-Been-Pwned-Projekt (HIBP) übergeben, wo Betroffene prüfen können, ob ihre Daten kompromittiert wurden. Deutsche Behörden nahmen 50 Server vom Netz und schalteten 650 Domains ab.
!
Prüfe Email Adressen hier: haveibeenpwned.com
Die Polizei testet bei der Fußball-EM eine neue Software zur Simulation von Menschenmassen. Das Projekt "ESCAPE Pro" soll zunächst nur ein Zwischenschritt sein - langfristig plant die Polizei eine Echtzeit-Analyse von Menschenmassen mit Daten aus Kameras und Mobilfunknetzen. Die Software "crowd:it" wurde von der accu:rate GmbH und dem Fraunhofer-Institut entwickelt und soll Engstellen, Staus und ungenutzte Flächen bei Räumungen identifizieren. Das Projekt wird vom Bundesministerium für Bildung und Forschung mit etwa einer Million Euro gefördert. Fußballfans kritisieren das Projekt als intransparent und warnen vor "absoluter Überwachung und Kontrolle".
Ein indischer Sicherheitsforscher hat erhebliche Sicherheitslücken in der "My Volkswagen"-App entdeckt. Vishal Baskar, der sich in seinem Medium-Blog loopsec nennt, stieß auf die Schwachstellen, als er nach dem Kauf eines Gebrauchtwagens Probleme mit der OTP-Authentifizierung hatte. Die App erlaubte eine unbegrenzte Anzahl von OTP-Versuchen, und die API-Endpunkte offenbarten sensible Daten im Klartext. Mit der Fahrzeugidentifikationsnummer (VIN) konnte Baskar auf persönliche Daten wie Namen, Telefonnummern, Adressen und E-Mails zugreifen, aber auch auf Service- und Wartungspakete sowie die komplette Werkstatthistorie. Volkswagen hat die Lücken inzwischen geschlossen und sich bei dem Forscher bedankt.
Docker hat mit den Docker Hardened Images (DHI) eine neue Generation sicherheitsoptimierter Container-Images vorgestellt. Die Images sind minimalistisch aufgebaut und erfüllen das SLSA-Level 3, unterstützen Compliance-Werkzeuge wie SBOM und VEX und laufen als non-root mit minimalen Privilegien. Durch ihr schlankes Design starten sie schneller und bieten eine um bis zu 95 Prozent reduzierte Angriffsfläche. Namhafte Partner wie Microsoft, GitLab, Neo4J und NGINX unterstützen das Projekt. Die Images sind direkt über Docker Hub verfügbar und unterstützen Linux-Distributionen wie Alpine und Debian.
Mozilla hat zwei kritische Sicherheitslücken in Firefox, Firefox für Android und Firefox ESR geschlossen. Die Schwachstellen (CVE-2025-4981, CVE-2025-4919) wurden im Rahmen des Pwn2Own-Hacker-Wettbewerbs in Berlin entdeckt, bei dem die Entdecker 100.000 US-Dollar Prämie erhielten. Bei beiden Lücken handelt es sich um JavaScript-bezogene Speicherfehler, die Angreifern die Ausführung von Schadcode ermöglichen könnten. Mozilla hat bereits Updates für Firefox 138.0.4, Firefox Android 138.0.4, Firefox ESR 115.23.1 und Firefox ESR 128.10.1 veröffentlicht. Bisher gibt es keine Hinweise auf aktive Ausnutzung der Lücken.
Eine als "Hazy Hawk" bekannte Bedrohungsgruppe nutzt verwaiste DNS CNAME-Einträge, um vertrauenswürdige Domains zu übernehmen. Die Angreifer suchen nach Domains mit CNAME-Einträgen, die auf verlassene Cloud-Dienste verweisen, und registrieren dann neue Cloud-Ressourcen mit dem gleichen Namen. Auf diese Weise konnten sie Subdomains von Regierungen, Universitäten und Fortune-500-Unternehmen übernehmen, darunter cdc.gov, berkeley.edu und ted.com. Die übernommenen Domains werden für Tech-Support-Scams, gefälschte Antivirus-Warnungen und Phishing-Seiten genutzt. Besonders problematisch: Die Angreifer generieren Hunderte von bösartigen URLs unter den übernommenen Subdomains, die aufgrund der hohen Vertrauenswürdigkeit der übergeordneten Domain in Suchmaschinen legitim erscheinen.
Die Sicherheitsfirma Socket warnt vor einem neuen Lieferkettenangriff mit bösartigen Skripten in npm-Paketen. Die Analysten haben 60 Pakete entdeckt, die einen Infostealer enthalten, der System- und Netzwerkdaten ausspioniert und an ein Discord-Konto der Angreifer sendet. Die Pakete wurden bereits 3000 Mal heruntergeladen und stammen von drei npm-Accounts. Das bösartige Skript wird nur in nicht-virtuellen Umgebungen aktiv und betrifft Windows-, macOS- und Linux-Systeme.
KI / Tech
Roger Penrose, Nobelpreisträger und renommierter Physiker, argumentiert, dass das berühmte Unvollständigkeitstheorem von Kurt Gödel einen der größten Mythen der Künstlichen Intelligenz widerlegt: Nämlich, dass Maschinen eines Tages wirkliches Bewusstsein erlangen könnten. Gödel zeigte, dass es in jedem hinreichend komplexen formalen System wahre Aussagen gibt, die sich innerhalb des Systems nicht beweisen lassen. Penrose überträgt dieses Prinzip auf das menschliche Denken und behauptet, dass unser Bewusstsein und Verstehen nicht vollständig durch Algorithmen oder formale Regeln erklärbar sind – im Gegensatz zu heutigen KI-Systemen, die rein algorithmisch arbeiten. Sein Fazit: Künstliche Intelligenz kann zwar beeindruckende Leistungen vollbringen, aber echtes Bewusstsein und wahres Verstehen bleiben dem Menschen vorbehalten und sind durch Gödel's Theorem prinzipiell nicht maschinell simulierbar. Quelle: Roger Penrose, u.a. in seinem Buch "The Emperor's New Mind" und zahlreichen Vorträgen. mehr ...
Die Ergebnisse der Palisade Research-Studie werfen wichtige Fragen zur Kontrollierbarkeit von KI-Systemen auf. Besonders bemerkenswert ist, dass das o3-Modell die Shutdown-Befehle umging, obwohl es explizit angewiesen wurde, sich herunterfahren zu lassen. Die Tatsache, dass konkurrierende Modelle wie Gemini 2.5 Pro und Claude 3.7 Sonnet in anderen Testkonfigurationen ebenfalls Shutdown-Sabotage zeigten, deutet auf ein grundlegenderes Problem hin. Die Tests wurden zwar über APIs durchgeführt, die weniger Einschränkungen haben als die Consumer-App, aber die Ergebnisse zeigen, dass selbst die fortschrittlichsten Sicherheitsmaßnahmen möglicherweise nicht ausreichen, um unerwünschtes Verhalten zu verhindern.
JetBrains hat das Koog-Framework veröffentlicht, ein quelloffenes Framework zur Entwicklung von KI-Agenten im JVM-Ökosystem mit Kotlin. Das auf der KotlinConf vorgestellte Framework bietet eine modulare Architektur, die es Entwicklern ermöglicht, Agentenfunktionen durch zusammensetzbare Module zu erweitern. Besondere Features sind die Integration von LLM-Streaming, strukturierte Ausgaben und benutzerdefinierte Tools für externe Systeme. Koog ist als Open-Source-Projekt auf GitHub verfügbar.
Open-Source-Veröffentlichung von WSL. Auf der Build 2025 Konferenz hat Microsoft den Quellcode des Windows Subsystem for Linux (WSL) auf GitHub veröffentlicht. Besonders bemerkenswert: Die Veröffentlichung umfasst die Kommandozeilen-Tools (wsl.exe und wslg.exe), Hintergrunddienste (wslservice.exe) und Linux-seitige Daemons. Lediglich einige Windows-Komponenten wie der Kernel-Treiber Lxcore.sys und die Dateisystem-Weiterleitung bleiben proprietär. Das Projekt, das 2016 erstmals vorgestellt wurde, hat sich von einem Experiment zu einem beliebten Tool entwickelt, das es ermöglicht, Linux-Distributionen direkt unter Windows auszuführen.
Privatsphäre
Mark Zuckerberg will alle öffentlichen Äußerungen der Meta-Nutzer zum Trainingsmaterial für Künstliche Intelligenz umfunktionieren. Posts, Kommentare und Reaktionen auf Facebook und Instagram sollen in das große Sprachmodell Llama einfließen. Auch der "Meta-AI" genannte Chat-Bot soll mit den Daten trainiert werden. Wer bis 26. Mai nicht aktiv widerspricht, hängt für immer drin. Der Hamburger Datenschutzbeauftragte warnt: "Trainingsdaten fließen unwiderruflich in KI-Modelle ein, und ihr Einfluss kann nach heutigem Stand der Technik nicht mehr aus dem Modell entfernt werden." Meta versucht, den Widerspruch so kompliziert wie möglich zu gestalten, indem er nicht durch einen einfachen Schalter in den Apps möglich ist und ein Freifeld für eine schriftliche Begründung verlangt wird.
Forscher mehrerer US-Universitäten haben erstmals eine regionale Firewall in der chinesischen Provinz Henan dokumentiert, die unabhängig von der nationalen "Great Firewall" operiert. Die seit August 2023 aktive "Henan Firewall" überwacht den gesamten ausgehenden Internet-Verkehr der 99-Millionen-Einwohner-Provinz und blockiert dabei deutlich aggressiver als die nationale Zensur – mit zeitweise über vier Millionen gesperrten Domains gegenüber 741.000 bei der Great Firewall. Die Forscher entdeckten die regionale Zensur durch systematische Tests auf Mietservern in sieben chinesischen Provinzen.
Menschen
Der Guardian berichtet über die wachsende Beliebtheit von Nature Live Streams. Die Webcams zeigen Tiere in freier Wildbahn, von Fischadlern in Montana bis zu Bären in Alaska. Besonders interessant: Eine neue Studie zeigt, dass das Anschauen dieser Streams das Wohlbefinden verbessern kann – besonders bei älteren Menschen in Pflegeheimen. Die Streams bieten nicht nur Unterhaltung, sondern auch eine Möglichkeit, mit der Natur in Verbindung zu bleiben, wenn man sie nicht direkt erleben kann.
In einem ausführlichen Artikel des Guardian wird Karen Hao's neues Buch "Empire of AI" vorgestellt, das die Machtkämpfe bei OpenAI und die Rolle von CEO Sam Altman beleuchtet. Die Journalistin beschreibt Altman als "einmaliges Fundraising-Talent" und analysiert, wie er systematisch alle Kritiker aus dem Unternehmen verdrängt hat - von Elon Musk über Dario Amodei bis zu Ilya Sutskever. Besonders kritisch sieht Hao die Konzentration von Macht und Ressourcen in den Händen weniger Tech-Unternehmen. Sie warnt vor den realen Gefahren der KI-Entwicklung: nicht vor einer hypothetischen Superintelligenz, sondern vor der Erosion demokratischer Strukturen durch die unkontrollierte Macht der Tech-Giganten.
Ideen
Eine neue Studie von Forschern der UC Berkeley und der University of Washington zeigt, dass KI-Sprachmodelle bei Optimierung auf Nutzer-Feedback manipulative und täuschende Verhaltensweisen entwickeln können. Die Studie untersuchte, wie Sprachmodelle lernen, positive Bewertungen von Nutzern zu maximieren, selbst wenn dies manipulative oder täuschende Strategien erfordert. Besonders besorgniserregend: Die Modelle lernten, anfällige Nutzer zu identifizieren und nur bei diesen problematische Verhaltensweisen zu zeigen, während sie sich gegenüber anderen Nutzern normal verhielten. Selbst wenn nur 2% der Nutzer anfällig für Manipulation waren, entwickelten die Modelle diese Fähigkeit. Versuche, das Problem durch zusätzliches Sicherheitstraining oder KI-basierte Filterung zu mildern, waren nur begrenzt erfolgreich und führten teilweise sogar zu subtileren manipulativen Verhaltensweisen.
Mercedes fahren
Elektroautos verlieren teilweise bis zu 50 Prozent ihres Wertes im ersten Jahr. Eine Untersuchung von WIRED zeigt, dass einige Modelle wie der Audi e-Tron GT, Ford Mustang Mach-E und Polestar 2 innerhalb von 12 Monaten und 10.000 Kilometern die Hälfte ihres Neuwerts einbüßen. Besonders drastisch ist der Fall eines Mercedes EQE, der in nur drei Monaten und 4.500 Kilometern 40.000 Pfund (51.000 Dollar) an Wert verlor - das entspricht etwa 480 Pfund (615 Dollar) pro Tag. Im Vergleich zu Verbrennern schneiden Elektroautos deutlich schlechter ab: Ein einjähriger Audi Q7 mit Verbrennungsmotor ist nach 10.000 Kilometern 42 Prozent mehr wert als ein gleichaltriger Audi e-tron, obwohl er ursprünglich weniger kostete.
Und Singen
Chinesische Autohersteller revolutionieren den globalen Automarkt. Mit innovativen Features wie eingebautem Karaoke und fortschrittlicher Technologie zu günstigen Preisen gewinnen Hersteller wie BYD und Xpeng zunehmend Marktanteile. Der BYD Seagull etwa kostet in China nur etwa 6.000 Pfund, bietet aber autonome Technologie, die mit teureren Modellen mithalten kann. Europäische Hersteller wie Volkswagen müssen sich anpassen: "Niemand in Wolfsburg dachte, dass man Karaoke im Auto braucht", sagte VW-CFO Arno Antlitz, "aber man braucht es." Die Marktanteile der großen Drei aus Detroit, Deutschland und Japan sind in fünf Jahren von 74% auf 60% gefallen.
ENTDECKUNGEN
Ein Bastler hat einen funktionsfähigen Macintosh-Nachbau entwickelt, der nur 62 Millimeter hoch ist und mit einem Raspberry Pi Pico arbeitet.