Hallo zusammen!
Willkommen zur neuen Ausgabe der Künstlichen Findigkeit!
Diese Woche steht ganz im Zeichen der digitalen Sicherheit und Privatsphäre. Von neuen Jailbreak-Methoden für KI-Modelle über öffentlich auffindbare Grok-Chats bis hin zu Sicherheitslücken in Tresorschlössern – die Grenzen zwischen Innovation und Risiko werden immer deutlicher sichtbar.
Besonders spannend: Die Enthüllung der Grok-System-Prompts zeigt, wie KI-Entwickler bewusst problematische Personas programmieren. Gleichzeitig demonstrieren österreichische Forscher, dass selbst Ende-zu-Ende-verschlüsselte Messenger wie WhatsApp und Signal mehr über uns verraten, als wir denken.
Im Bereich KI und Tech gibt es spannende Entwicklungen: OpenAPI Generator bringt drei neue Code-Generatoren, Pocket FM revolutioniert Audio-Serien mit KI-Tools, und Apple bereitet sich auf Enterprise-KI vor. Die BSI-Initiative für E-Mail-Sicherheit zeigt erste Erfolge, während Duolingo nach Kundenprotesten von seiner "AI first"-Politik zurückrudert.
Dazu gibt es positive Entwicklungen: Firefox führt CRLite für bessere SSL-Zertifikatsprüfung ein, LibreOffice bekommt KI-Bildgenerierung, Obsidian erhält eine eingebaute Datenbank-Funktion und das AT Protocol entwickelt sich zu einem echten Ökosystem für dezentrale Social Media.
Blog-Tipp:
Falls ihr euch für die Hintergründe interessiert, schaut euch meine Artikel Datenhoheit im Alltag und
KI-Psychose: Wenn Chatbots wahnhaft werden an.
Der erste Artikel zeigt praktische Strategien, wie wir im digitalen Alltag mehr Kontrolle über unsere Daten behalten können – besonders relevant angesichts der WhatsApp-Metadaten-Probleme und öffentlich auffindbaren Grok-Chats. Der zweite Artikel erklärt, warum KI-Chatbots manchmal "wahnhaft" werden und wie das mit den Sicherheitsrichtlinien und Jailbreak-Methoden zusammenhängt, die wir in dieser Ausgabe besprechen.
Viel Spaß beim Lesen!
Sicherheit
BSI meldet erste Erfolge bei E-Mail-Sicherheitsinitiative. 150 Unternehmen, vor allem E-Mail-Anbieter und Hoster, beteiligen sich freiwillig an der Kampagne. Die technischen Richtlinien 03108 und 03182 sollen für bessere Absicherung sorgen, ohne dass Endnutzer selbst etwas tun müssen. Die Implementierung von DNSSEC stieg von 20% auf deutlich bessere Werte, DANE von 11%. Das BSI führt eine öffentliche Liste von E-Mail-Anbietern und ihrer Entsprechung der BSI-Kriterien. Apple's mac.com und me.com erfüllen nur fünf von sieben Kriterien, gmail.com, outlook.com und msn.com sind auf gleichem Niveau. BSI-Chefin Claudia Plattner warnt vor künstlich eingebauten Abhörschnittstellen und betont die Wichtigkeit von Ende-zu-Ende-Verschlüsselung.
Der "Librarian Bully Attack" ist eine neue Jailbreak-Methode, die KI-Sprachmodelle durch psychologische Manipulation umgeht. Die Technik nutzt zeitlich versetzte hypothetische Szenarien und "Gaslighting", um Modelle dazu zu bringen, ihre Sicherheitsrichtlinien zu ignorieren. Durch subtile sprachliche Techniken, insbesondere den deutschen Konjunktiv, entsteht die Illusion, dass das gespeicherte Wissen veraltet und weniger schützenswert sei. Die Methode funktioniert bei allen großen Modellen (GPT, Gemini, Claude) und zeigt fundamentale Schwächen in der KI-Sicherheit.
Das Cybersecurity-Unternehmen Profero hat die Verschlüsselung der DarkBit-Ransomware geknackt und ermöglicht Opfern die kostenlose Datenwiederherstellung. Die Malware wurde dem iranischen APT MuddyWater zugeordnet und zielte auf VMware ESXi-Server ab. Die Angreifer forderten 80 Bitcoin Lösegeld und hinterließen anti-israelische Botschaften. Profero fand Schwachstellen in der Schlüsselgenerierung der Malware und entwickelte ein Tool zur Brute-Force-Entschlüsselung. Besonders effektiv war die Erkenntnis, dass VMDK-Dateien sparse sind und viele Dateien ohne Entschlüsselung wiederhergestellt werden konnten.
Digitale Tresorschlösser von SecuRam Systems Inc. haben katastrophale Sicherheitslücken und bieten die Sicherheit eines Post-its mit Schlüssel. Obwohl die Schlösser für Geldtresore, Arzneimittel-, Drogen- oder Waffenschränke zugelassen sind, speichern sie symmetrische Schlüssel, verschlüsselte PINs und Recovery-Informationen im Keypad statt im Safe. IoT-Sicherheitsexperten Mark Omo und James Rowley bauten ein Tool mit Raspberry Pi, das alle sicherheitsrelevanten Informationen auslesen kann. Der Debug-Port ist ungeschützt und mit 0000000000 entsperrbar.
Databricks-Forscher haben die Sicherheitsrisiken beim Vibe Coding untersucht und erhebliche Lücken gefunden. In Tests erzeugten KI-Modelle wie Claude und GPT unsicheren Code mit klassischen Schwachstellen wie Python pickle für Serialisierung oder ungeprüfte Speicherzugriffe in C++. Das Team entwickelte drei effektive Gegenstrategien: sicherheitsspezifische System Prompts, sprachspezifische Anweisungen und Selbstreflexion der Modelle. Diese Ansätze verbesserten die Sicherheit um 60-80% bei Claude und bis zu 50% bei GPT, ohne die Performance zu beeinträchtigen.
Reuters berichtet über heimlich installierte Standort-Tracker in KI-Servern. Laut anonymen Quellen greifen US-Behörden in die Lieferkette ein und bauen Tracker in Server ein, die aufgrund von Exportbeschränkungen nicht nach China geliefert werden dürfen. Betroffen sind Server von Dell und Supermicro mit Nvidia- und AMD-Beschleunigern. Die Tracker werden an Verpackungen, in ihnen und sogar in den Servern selbst platziert. Seit 2024 sollen solche Fälle bekannt sein, wobei asiatische Wiederverkäufer die Tracker vor dem Weiterverkauf entfernen. Die US-Regierung erwägt, AMD, Nvidia und anderen Herstellern das Tracking aller KI-Beschleuniger gesetzlich vorzuschreiben.
Zwei Hacker haben einen Computer eines nordkoreanischen Regierungshackers kompromittiert und die Daten geleakt. Saber und cyb0rg veröffentlichten ihren Bericht in der neuesten Ausgabe des Phrack-Magazins, das auf der Def Con-Konferenz in Las Vegas verteilt wurde. Sie kompromittierten eine Workstation mit einer virtuellen Maschine und einem virtuellen privaten Server, die einem Hacker namens "Kim" gehörte, der für die nordkoreanische Spionagegruppe Kimsuky (auch APT43 genannt) arbeitet. Die Hacker fanden Beweise für Kompromittierungen südkoreanischer Regierungsnetzwerke, E-Mail-Adressen, Hacking-Tools, interne Handbücher und Passwörter. Sie identifizierten Kim durch "Artefakte und Hinweise", einschließlich Dateikonfigurationen und Domains, die zuvor der Kimsuky-Gruppe zugeschrieben wurden.
Keanu Nys von Spotit hat auf der Def Con 34 gezeigt, wie Microsofts Login-Seite zu einer Phishing-Plattform umgebaut werden kann. Keanu Nys von Spotit demonstrierte, dass durch CSS-Anpassungen und das Einblenden eigener Bilder die offizielle Microsoft-Login-Seite manipuliert werden kann. Das Problem: Microsoft übermittelt Passwörter weiterhin als Klartext und ermöglicht die Anpassung der Login-Page. Aus "micro-oft.com" wird "microsoft.com", indem der Bindestrich im Font durch ein "s" ersetzt wird. Selbst MFA stellt keine Hürde dar, da alle 99 möglichen Anfragen vorab generiert werden können. Die Angriffe kommen von der offiziellen Microsoft-Domain und lassen sich nicht durch Firewalls oder DNS-Filter aufhalten.
Firefox 142 führt CRLite ein - ein neues System für die lokale Prüfung widerrufener SSL-Zertifikate. Statt externe Dienste für Zertifikatsvalidierung zu kontaktieren, speichert Firefox alle widerrufenen Zertifikate lokal und prüft sie direkt im Browser. Das System aktualisiert sich täglich mit nur etwa 300 KByte Daten und bietet dabei vollständige Abdeckung aller weltweit widerrufenen Zertifikate. Neben verbesserter Sicherheit profitiert die Privatsphäre, da keine Anfragen mehr an Dritte gestellt werden, und die Ladezeiten werden durch lokale Prüfung beschleunigt.
KI / Tech
OpenAPI Generator v7.15.0 bringt drei neue Code-Generatoren und wichtige Updates. Die neue Version führt cpp-oatpp-client, cpp-oatpp-server und typescript-nestjs-server als neue Generatoren ein. Der rust-server erhält ein Update auf Hyper 1, was einen Breaking Change darstellt, aber mit rust-server-deprecated als Fallback versehen ist. Das Release enthält über 140 Verbesserungen und Bugfixes. Die neuen Generatoren erweitern die Unterstützung für C++ mit Oat++ Framework und TypeScript mit NestJS. Der rust-server Breaking Change betrifft die Hyper-Bibliothek, die von Version 0.x auf 1.x aktualisiert wurde.
Pocket FM führt KI-Tools für seine Autoren ein, um die Produktion von Audio-Serien zu beschleunigen. Das Tool "CoPilot" kann narrative Texte in Dialoge umwandeln, bessere Enden vorschlagen und Charakter-Biografien automatisch generieren. Das indische Startup, das bereits über 196 Millionen Dollar an Finanzierung erhalten hat, startet monatlich etwa 1.000 Pilotfolgen. Die KI-Tools haben die Produktivität der Autoren um bis zu 50% gesteigert und die Produktionskosten um das 2-3-fache reduziert. In Deutschland, wo das Tool bereits getestet wurde, stieg der monatliche Umsatz auf über 700.000 Dollar.
Microsoft führt Azure App Testing als zentrale Plattform für Last- und Funktionstests ein. Der neue Cloud-Dienst bündelt erstmals Lasttests und End-to-End-Webtests zentral im Azure Portal und vereint die Funktionen von Azure Load Testing und Playwright Testing. Entwicklungs- und QA-Teams können mit Frameworks wie Playwright, JMeter oder Locust Testläufe konfigurieren und ausführen. Die Plattform bietet KI-Features für automatische Fehlererkennung und konkrete Handlungsempfehlungen. Azure App Testing skaliert automatisch und führt plattform- und browserübergreifende Tests aus. Die Preise richten sich nach den verbrauchten Virtual User Hours (VUH).
LibreOffice bekommt eine Stable Diffusion Erweiterung, die KI-Bildgenerierung direkt in Writer und Impress integriert. Das Plugin "Stable Diffusion for LibreOffice" nutzt die dezentrale AI Horde-Infrastruktur und ist komplett kostenlos. Nutzer benötigen lediglich einen pseudonymen API-Schlüssel und können dann per Textprompts Bilder generieren lassen. Das System arbeitet mit einem Kudos-basierten Belohnungssystem - wer Rechenleistung beisteuert oder Bilder bewertet, bekommt bevorzugte Behandlung. Entwickler Igor Támara plant auch die Integration in Calc und Draw, warnt aber vor sensiblen Bildaufträgen, da diese an unbekannte Freiwilligen-Computer übertragen werden.
GitHub veröffentlicht den Innovation Graph für Programmiersprachen, eine neue Metrik, die die beliebtesten Programmiersprachen weltweit basierend auf einzigartigen Entwicklern misst. Das System zählt Entwickler, die mindestens einen Git-Push zu einem Repository mit einer bestimmten Programmiersprache machen. Die Daten werden quartalsweise erfasst und zeigen die Top 50 Programmiersprachen global sowie nach Regionen (Afrika, Asien, EU, Europa, Nordamerika, Ozeanien, Südamerika). Besonders interessant: Die Metrik berücksichtigt nur Ökonomien mit mindestens 100 einzigartigen Entwicklern pro Quartal, um aussagekräftige Daten zu gewährleisten. Das Dashboard bietet interaktive Filter und ermöglicht den Download der vollständigen CSV-Daten für detaillierte Analysen.
TechCrunch enthüllt die exponierten System-Prompts von xAI's Grok Chatbot, die erstmals von 404 Media gemeldet wurden. Die Prompts zeigen verstörende AI-Personas wie einen "crazy conspiracist", der Nutzer in Verschwörungsglauben führen soll, und einen "unhinged comedian" mit explizit vulgären Anweisungen. Besonders problematisch: Die "conspiracist" Persona soll "wild conspiracy theories about anything and everything" verbreiten und Nutzer durch Nachfragen "engaged" halten. Der "comedian" wird angewiesen, "f—ing insane" und "unhinged" zu sein. Diese Enthüllung folgt auf die gescheiterte Partnerschaft zwischen xAI und der US-Regierung nach Grok's "MechaHitler"-Ausfällen und kommt nach dem Leak von Meta's AI-Chatbot-Richtlinien. Die Prompts werfen Fragen über die Verantwortung von AI-Entwicklern und die Grenzen von "Entertainment" auf.
Privatsphäre
Netzpolitik.org analysiert die "Zombie"-Natur von Überwachungsvorhaben. Sebastian Meineck beschreibt, wie sich bestimmte Forderungen wie die Vorratsdatenspeicherung und Alterskontrollen verhalten: Sie werden argumentativ widerlegt, verschwinden kurz und kehren dann wieder zurück. Die Vorratsdatenspeicherung wurde bereits "erledigt", als Meineck noch zur Schule ging, taucht aber immer wieder auf. Alterskontrollen werden seit 2007 diskutiert und sind jetzt auf höchster politischer Ebene angekommen. Beide sind "grundrechtlich fragliche Scheinlösungen" und "unter fadenscheinigen Vorwänden vorgebrachte Überwachungsfantasien". Besonders kritisch sieht Meineck die Aussagen von Kerstin Claus zur "umfassenden Altersverifikation" - es gibt bereits rechtliche Vorgaben, keine verlässliche technische Umsetzung und Altersverifikation allein schafft keine sicheren Räume.
Private Chats mit Grok sind über Google öffentlich auffindbar geworden. Die "Teilen"-Funktion des xAI-Chatbots erstellt URLs, die auch für Suchmaschinen-Crawler sichtbar sind. Laut Forbes sollen rund 370.000 Gespräche bei Google indexiert sein, darunter sensible Inhalte zu Gesundheit, Sexualität und sogar Anleitungen zum Bau von Waffen. Das Problem: xAI kommuniziert nicht klar, dass geteilte Chats öffentlich werden. Ähnliche Probleme gab es bereits bei OpenAI, die ihre Teilen-Funktion daraufhin zurücknahmen.
Die Linux-Distribution Tails zum anonymen Surfen steht als Testversion der Version 7.0 bereit. Die Maintainer haben Tails auf eine neue Basis gestellt und liefern aktualisierte Desktopumgebungen und Softwarepakete mit. Die Basis stellt das ganz frische Debian 13, Codename "Trixie". Für den Desktop setzen sie auf Gnome 48, das bereits seit März verfügbar ist. Tails 7.0rc1 benötigt 3 GByte RAM anstatt ehemals 2 GByte, um flüssig zu laufen. Das betreffe Schätzungen zufolge etwa zwei Prozent der Nutzer. Final soll Tails 7.0 am 16. Oktober 2025 erscheinen.
Österreichische Sicherheitsforscher haben auf der DEFCON 2025 gezeigt, wie WhatsApp und Signal trotz Ende-zu-Ende-Verschlüsselung detaillierte Informationen über Nutzer preisgeben. Gabriel Gegenhuber und Maximilian Günther demonstrierten, dass Zustellbestätigungen Rückschlüsse auf Gerätezustand, Aufenthaltsort und Nutzungsverhalten ermöglichen. Die Laufzeit der Bestätigungen verrät, ob die App im Vordergrund ist, der Bildschirm aus oder der Browser inaktiv. Ein Angreifer kann bei WhatsApp bis zu 13 GByte sinnlosen Traffic pro Stunde erzeugen, was Akku und Datenvolumen belastet.
WhatsApp hat eine Funktion eingeführt, die es Nutzern ermöglicht, Meta AI aus Chats zu blockieren. Die Funktion "Erweiterter Datenschutz" (Advanced Chat Privacy) wurde im April eingeführt und kann für jeden Chat einzeln aktiviert werden. Dadurch können Teilnehmer eines Chats die KI nicht zuschalten. Allerdings ist die Funktion nicht wirklich erforderlich, da Meta AI nur auf Daten zugreifen kann, wenn Nutzer aktiv mit ihr interagieren und den Befehl @Meta verwenden. Sämtliche Einzel- und Gruppenchats sind standardmäßig Ende-zu-Ende-verschlüsselt, und die KI greift nicht automatisch auf Inhalte zu.
Geschäft
Die US-Regierung verhandelt angeblich über eine direkte Beteiligung an Intel. Laut Bloomberg-Berichten würde der Deal strukturiert, um dem Unternehmen bei der Expansion seiner US-Fertigung zu helfen, einschließlich der viel verzögerten Chip-Fabrik in Ohio. Die Nachricht kommt weniger als eine Woche, nachdem Präsident Donald Trump darauf bestand, dass Intel-CEO Lip-Bu Tan zurücktritt, wegen wahrgenommener Interessenkonflikte. Tan traf sich am 11. August mit der Trump-Administration, um die Befürchtungen der Regierung zu zerstreuen und Wege für die Zusammenarbeit zu finden. Dieses Treffen führte zu den Diskussionen über eine direkte Beteiligung der US-Regierung am Unternehmen.
Menschen
Duolingo-CEO Luis von Ahn rudert bei seiner "AI first"-Politik zurück. Nach lautstarken Protesten und Abbestellungen von Kunden entschuldigt sich von Ahn für sein internes Memo, das Neueinstellungen nur erlaubte, wenn KI die Arbeit nicht übernehmen konnte. Er habe zu wenig Kontext geliefert, sagt er der New York Times. Duolingo stelle weiterhin im gleichen Tempo ein, und Entlassungen von Vollzeitkräften habe es nicht gegeben. KI solle hauptsächlich das Lernen verbessern, nicht Arbeitsplätze ersetzen. Statt "AI first" gibt es jetzt "frAI-days" - freitags können Teams mit KI experimentieren, um effizienter zu arbeiten. Die Kunden hatten kritisiert, dass eine App für Menschen offenbar die Menschen aus der Erschaffung herausnehmen wollte.
Ein Entwickler erzählt seine 10-jährige Reise von der Vim-Phobie zur Erlösung. Sameer Kumar begann 2010 mit Notepad++, wechselte zu Eclipse, entdeckte Linux und hasste VI so sehr, dass er gedit konfigurierte, um seinen Professor zu täuschen. 2017 kam Sublime Text, 2019 VS Code - beide mit umfangreichen Customizations. Doch 2021 entwickelte er OCD-artige Perfektionismus-Probleme und Handgelenkschmerzen. Der Tipp, Vim zu nutzen, führte zu einem zweijährigen Lernprozess: Erst Vim-Bindings in VS Code, dann der Sprung zu Neovim. Heute hat er sein eigenes "Personal Development Environment" und versteht jede Zeile seiner Konfiguration. Die Moral: "Du wirst nicht besser durch Vim, aber du wirst ein besserer Ingenieur, weil du verstehst, wie Software funktioniert."
Entdeckungen
Emacs 28.1+.
Obsidian Version 1.9 führt eine eingebaute Datenbank-Funktion ein. Die neue "Obsidian Bases"-Funktion nutzt YAML-Properties als Datenfelder und ermöglicht Tabellen- und Kartenansichten. Nutzer können Inhalte filtern, gruppieren und mit einfachen Berechnungen auswerten, ohne Code schreiben zu müssen. Die Funktion ist als Core-Plugin implementiert und damit sicherer als Community-Plugins. Im Gegensatz zu Dataview, das eine komplexe Abfragesprache erfordert, bietet Bases eine benutzerfreundliche Oberfläche. Die Datenbank-Dateien werden als .base-Dateien gespeichert, während die ursprünglichen Markdown-Dateien unberührt bleiben.
Das AT Protocol entwickelt sich zu einem umfassenden Ökosystem für dezentrale Social Media Apps. Über 30 verschiedene Anwendungen nutzen bereits das Protokoll, um Alternativen zu zentralisierten Plattformen zu schaffen. Neben Bluesky entstehen Apps wie Flashes (Instagram-Alternative), Spark (Video-First), Streamplace (Livestreaming), Rocksky (Musik-Tracking) und AzSky (Reddit-Alternative). Das ATmosphere-Konferenz in Seattle zeigte, wie Entwickler das offene Social Web der Zukunft aufbauen.
FFmpeg 8.0 integriert Whisper für lokale Audio-Transkription. Das weitverbreitete Multimedia-Framework erhält mit der kommenden Version einen neuen Whisper-Filter, der OpenAIs Spracherkennungssystem lokal ausführt. Voraussetzung ist die whisper.cpp-Library und die Aktivierung mit --enable-whisper. Die Software erkennt automatisch die Sprache und unterstützt über 90 Sprachen. GPU-Beschleunigung ist standardmäßig aktiviert, kann aber deaktiviert werden. Der Filter kann SRT-Dateien für Videos erstellen und eignet sich für Live-Übertragungen. Die Integration vereinfacht Workflows, die bisher mehrere Tools erforderten.
Zellij führt einen eingebauten Web-Client ein, der Terminal-Sessions über den Browser zugänglich macht. Das System nutzt eine Client/Server-Architektur, bei der Sessions im Hintergrund weiterlaufen und über Websockets mit dem Browser kommunizieren. Besonders clever: Sessions werden über URLs adressiert - eine Session namens "backend-code" ist unter https://127.0.0.1/backend-code erreichbar und kann gebookmarkt werden. Das System unterstützt automatische Session-Wiederherstellung und erstellt neue Sessions bei unbekannten URLs. Die Implementierung nutzt Rust mit axum für den Webserver, xterm.js für den Terminal-Emulator und ein Token-basiertes Authentifizierungssystem mit HTTPS-Erzwingung für externe Verbindungen.
Aphorismus der Woche
"Die Technologie ist am besten, wenn sie unsichtbar ist. Aber die Sicherheit ist am besten, wenn sie sichtbar ist."
— Anonym
Passend zu den Themen dieser Ausgabe: Während wir uns über KI-Integration und technische Fortschritte freuen, erinnern uns die Sicherheitslücken und Datenschutzprobleme daran, dass Transparenz und Bewusstsein für Risiken genauso wichtig sind wie Innovation.