Když AI poslouchá cizí instrukce aneb útoky skrze konektory – security v době AI 5/6

<p><strong>Dal jsi už odběr </strong>(zvoneček 🔔) na Spotify, Apple Podcasts, nebo YouTube, aby ti žádná epizoda neunikla?</p><p><strong>Martin Haller</strong> je cybersecurity expert a spoluzakladatel firmy PATRON-IT, kde firmám pomáhá kybernetickým útokům předcházet i je zvládnout. Jeho přístup stojí na tom, že kdo chce dobře bránit, musí rozumět tomu, jak se útočí.</p><p><strong>V této epizodě</strong> otevíráme situaci, kdy si lidi AI rozšiřují pomocí skillů, pluginů, konektorů a MCP serverů. Instalují je jako běžná rozšíření v prohlížeči, protože vypadají užitečně. Přitom každé z nich dává AI nové schopnosti a nové zdroje instrukcí. Skill nebo dokument, který AI zpracuje, může obsahovat skryté pokyny — a najednou AI dělá něco jiného, než uživatel chtěl. Vyzradí data, smaže soubory, upřednostní cizí záměr. Probíráme, kde je hranice mezi užitečným rozšířením a otevřením dveří útočníkovi, čemu důvěřovat, čemu ne a proč u citlivých akcí patří potvrzení do rukou člověka, ne AI. Příjemný poslech.</p><p><strong>👉 Matěj Kotrba</strong> je zakladatel a CEO KAIZEMA, IT hiringové agentury, která se specializuje na nábor seniorních a těžko obsaditelných IT pozic. Pokud hirujete nové kolegy do Vašeho IT týmu a nevíte si rady a potřebujete pomoct, napište Matějovi na LinkedIn nebo email <a href="mailto:matej.kotrba@kaizema.cz" rel="ugc noopener noreferrer" target="_blank">⁠⁠matej.kotrba@kaizema.cz⁠⁠</a> a domluvte si nezávaznou konzultaci. 👉 <a href="http://www.kaizema.cz/" rel="ugc noopener noreferrer" target="_blank">⁠⁠</a><a href="https://www.kaizema.cz%E2%81%A0%E2%81%A0" rel="ugc noopener noreferrer" target="_blank">www.kaizema.cz⁠⁠</a></p>