Hogyan lehet IT-szakemberként lépést tartani a szinte naponta változó területekkel?

A 2025-ös Hacktivity konferencián négy szakember ismertette, miként nehezítik az AI-alapú támadások, a digitalizált járművek, az új támadási technikák és a gyorsan változó technológia az IT-biztonsági szakemberek feladatait.

A 2025-ös Hacktivity IT-konferencia négy szakértő résztvevője beszélt a robot_dreams szakmai blogjának arról, hogyan kezelik a folyamatosan változó szakmai környezetet, és miként lehet lépést tartani az új kihívásokkal. „A terület olyan gyorsan változik, amire korábban nem volt példa. Nem emlékszem, hogy valaha is ilyen gyors átalakulást láttunk volna – teljesen új típusú támadásformákat kell elhárítanunk, amelyek eddig nem léteztek” – mondja el Marta Janus, a HiddenLayer vezető kutatója, aki az ellenséges gépi tanulási támadásokkal és a mesterséges intelligenciával (AI/MI) működő rendszerek biztonságának vizsgálatával foglalkozik. „A legfontosabb most az, hogy tájékozódjunk az újdonságokról, és ne rohanjunk bele a piacon elérhető összes megoldásba, például az új AI-szolgáltatások bevezetésébe anélkül, hogy előtte a megfelelő biztonsági felmérést elvégeznénk.”

Ezek ugyanis még fejlesztés alatt állnak, sokszor hiányzik belőlük a megfelelő biztonsági védelem. Ám számos szervezet – köztük különböző kormányzati intézmények is – mégis sietve, kellő ellenőrzés nélkül vezeti be ezeket, hívja fel a figyelmet. „Bár sok támadás nagyon kifinomult és nehezen kivédhető, de egyre több ezeknek az AI-megoldásoknak az egészen alapvető sebezhetőségeit használja ki. Ezek olyasmik, amiket az 1990-es években láttunk, amikor a szoftverek még teljesen védtelenek voltak, mert a fenyegetések még csak akkoriban kezdtek el megjelenni. Az AI van most ilyen sebezhető állapotban, mint a szoftverek jellemzően 20-30 éve.” Ennek az az oka, hogy ez egy új terület, amely mindent megváltoztat, miközben a megszokott biztonsági megoldásokat próbáljuk alkalmazni rá. Kérdésünkre azt is elmondja, amikor a támadó és a védekező is AI-t használ, az egy klasszikus macska-egér játék – amilyen a kibervédelem mindig is volt. „A kiberbűnözők egyre többet és egyre gyakrabban használnak AI-t.”

Marta Janus előadás közben a 2025-ös Hacktivity konferencián (fotó: Tóth Dávid)

Az AI ellen menő AI-jal kapcsolatban Aurelio Picon Lopez fenyegetésfelderítéssel és incidenskezeléssel fogalkozó kiberbiztonsági szakértő, a CUJO AI Senior Security Researcher munkatársa hangsúlyozza, hogy az AI nem egy dolog, hanem eszközök egy csoportja. Az LLM-ek szerinte többet ígérnek, mint amire valóban képesek. Értő kezekben tényleg nagyban meggyorsíthatnak folyamatokat, de laikusok nem lesznek tőle semmi komolyabbra képesek, amit előtte nem tudtak, legfeljebb alapszintű ellenőrzéseket tud valaki így elvégezni. Az internetre kötött eszközöknél pedig akkor járnak el megfelelően, ha gyártás előtt elvégeznek egy megfelelő ellenőrzést, így korlátozva a támadási felületeket, mondta el. Azt mondja, az automatizált sebezhetőség-keresés valójában nem gyorsult fel, csak alacsonyabb hozzá a belépési küszöb. Ha mégis felgyorsul, az szerinte nem az AI, hanem a kiberbiztonsági háború miatt történik. „Az AI csak egy támogató eszköz.”

Nagy a hájp, de a biztonságra nem jut elég figyelem

Bár a nagy nyelvi modellek publikus használatra csak pár éve jelentek meg, ezek az évek teljesen a feje tetejére állították a kiberbiztonsági közösséget a felmerülő jogi és adatvédelmi kérdések miatt, folytatja Marta Janus. Azt, hogy az országok kormányai bevezetnek bizonyos szabályokat és védelmi intézkedéseket, egy kicsit lassúnak és elkésettnek tartja, hiszen már bevezettük ezeket a technológiákat az említett kérdések figyelembevétele nélkül. Szerinte a cégek többsége nincs felkészülve az AI-t használó támadásokra. A terület oktatása ezért szerinte rendkívül fontos, mert sokan nem is értik, milyen kockázatokkal jár, amit bevisznek a munkahelyi környezetükbe. „Az emberek ahhoz szoktak hozzá, hogy a szoftverek viszonylag biztonságosak. De az AI-megoldások nem sima szoftverek.”

Így az említett, régről ismert szoftveres problémák mellett azzal is számolni kell, hogy külső modelleket használhatnak. Ezért került mostanában a figyelem középpontjába az AI-rendszerek és külső eszközök, illetve adatforrások közötti kommunikációt szabványosító Model Context Protocol (MCP). „Ez arról szól, hogy az AI-modellek hogyan kommunikálnak egyéb eszközökkel, más modellekkel és különböző erőforrásokkal. Ám ez a protokoll nem túl biztonságos, amit sok cég nem vesz észre, miközben sietve bevezetik az AI-t csak azért, mert ez egy újdonság, ami majd növeli a hatékonyságot. Ám ezzel egy óriási támadási felületet nyitnak meg” – magyarázza Marta Janus.

Példaként említi az érzékeny adatok kiszivárgásának (exfiltration) és a támadók által az MCP-szervereken történő távoli, kódfuttatás lehetőségét. Hozzátéve, hogy hiába a nagy AI-hájp, a téma ezen részével kevesen foglalkoznak. „Bár látható egyfajta javulás, még rendes biztonsági tesztelés nélkül teszik elérhetővé ezeket a protokollokat és az azokat használó megoldásokat a nyilvánosság számára.” Így a hibákat vagy a kutatók, vagy a támadók veszik észre először. Aurelio Picon Lopez a szigorodó adatvédelemről azt mondja: egy, a rosszindulatú forgalmat kiszűrő biztonsági cégnek például annál könnyebb a dolga, minél több kontextussal tud dolgozni. Ám aki eddig is megfelelően kezelte és anonimizálta az adatokat, annak a szabályok nem okoznak gondot. Ha viszont valaki mindent gyűjtött, akkor a GDPR és hasonló regulációk kikényszerítik a helyes adatkezelést, amit a szakember üdvözöl.

Aurelio Picon Lopez prezentál a 2025-ös Hacktivity konferencián (fotó: Tóth Dávid)

Nem bújhatunk el egy fekete dobozba

Az előadásában a viselkedésalapú fenyegetésfelderítésről (behavioral detection) is szót ejtő Aurelio Picon Lopeztől az újdonságok kapcsán azt is megkérdeztük, hogy a fenyegetéseket a gyanús, szokatlan viselkedésmintákból detektáló módszer mennyit változik azáltal, hogy a támadók új technikákkal igyekeznek leplezni magukat. Azt mondja, a viselkedések általában ugyanazok, az új technológiák megjelenésével legfeljebb más részekre kell odafigyelniük. Ugyanakkor ahogyan egyre több eszköz kapcsolódik össze, egyre nagyobb számítási kapacitással, változtatni kell a módszer – költségesség miatt – hagyományosan limitált kapacitásain.

Kifejti: hagyományosan ezt a módszert nem alkalmazták tömegesen, ám ezen változtatni kell, ehhez nemcsak az egyre nagyobb elérhető erőforrás-mennyiséget kell kihasználniuk, de a mesterséges intelligenciát is be kell vetniük a komplex mintázatfelismeréshez. Kérdésünkre azt mondja, az AI segíthet a normál emberi viselkedés imitálásában is, ugyanakkor a nagy nyelvi modelleknek megvan a jellemző hibaszázaléka, a hagyományos gépi tanulás pedig továbbra is drága.

„A rövid válasz, hogy nem tudunk lépést tartani velük” – mondta az állami hátterű támadásokról. Mindenesetre aki legalább megkísérelné felvenni a versenyt a védekezői oldalról, annak elsősorban kellő erőforrást kell áldoznia a területre. „Hagyományosan az a fő probléma, hogy a kiberbiztonságot az üzleti életben gyakran költségként, másodrendű dologként kezelik. Miután valóban nem vagyunk egy pénzkereső gépezet, sokan úgy tekintenek a területre, amire csak a nemzetközi kockázatok, illetve felelősségi és szabályozási okok miatt van szükség.”

Még elegendő erőforrás mellett sem lehet mindent megvédeni, anélkül meg főleg nem, hangsúlyozza. „A legbiztonságosabb egy fekete doboz ajtók és ablakok nélkül, csak épp azzal nem megyünk semmire. Tökéletes biztonság tehát nincs, viszont nagyon meg lehet nehezíteni a támadásokat, így olyan magasra lehet tenni a belépési küszöböt, hogy ne érje meg” – magyarázza. Azt mondja, az erőforrások tekintetében a jó irányba haladnak, a legtöbb cég a híreket figyelve érti, hogy komolyan kell venni a területet. Ám míg egy szigorúan szabályozott gyógyszercég vagy bank jellemzően belátja, hogy be kell fektetniük a védelembe, hiszen minden pillanatban lemaradásban vannak, egy kisebb cégnél ez nehezebben működhet.

Kinek állhat az érdekében egy támadás?

A legfontosabb a környezetünk monitorozása, illetve az új fejlemények, sebezhetőségek figyelése és észlelése, hiszen valami egyik napról a másikra fenyegetéssé válhat, mondja Bálint Bianka, a DEKRA Technology & Services kiberfenyegetési elemzője. Példaként említi, hogy nyáron derült fény a Microsoft SharePoint-kiszolgálók egy nulladik napi sebezhetőségére, amit a támadók el is kezdtek kihasználni. Aztán az is kiderült, hogy a támadás során felhasznált koncepcióbizonyítás (proof of concept) a Microsoft jelentősebb sebezhetőségekről kiküldött előértesítésének volt a része. Hozzáteszi: a támadóknak ez a fajta felkészültsége azzal is magyarázható, hogy egyre inkább elmosódnak a határok a kiberbűnözők és az állami szereplők között. „Akik mondjuk alvállalkozóként bedolgoznak állami szereplőknek, azok lehetnek olyanok, akik egyébként a saját malmukra is hajtják a vizet” – fogalmaz.

Bár szerinte együtt kell élni azzal, hogy egy ilyen helyzetben lemaradásban van az ember, minimalizálhatók a kockázatok a rendszerek folyamatos naprakészen tartásával és fejlesztésével, illetve annak a monitorozásával, kinek állhat az érdekében egy támadás, és milyen kitettségeink lehetnek, mondjuk milyen új sebezhetőségek érinthetnek, magyarázza. Aki tudja, hogy állami szereplők is támadják, annak speciális védelembe is be kell fektetnie. A titkosszolgálatok tömeges adatgyűjtéseinek azonban olyanok is lehetnek a célpontjaik, akik csak beleesnek a szórásba. „Vannak olyan állami támadók, akik csak összegyűjtik az adatokat, így akkor is beleeshetsz egy vulnerability kihasználásába, ha direktben nem is rád kíváncsiak. Az említett SharePoint-eset is ilyen volt: ha nem is estél bele az őket érdeklő poolba, összeszedték, ami elérhető volt.” Ugyanis egy már megismert sebezhetőség nem igényel extra erőfeszítést, csak ki kell használni, és kieshet belőle hasznos információ.

Bálint Bianka ad elő a 2025-ös Hacktivity konferencián (fotó: Tóth Dávid)

Az is megesik, hogy egy beszállítói lánc tagjaként rajtunk keresztül próbálnak valaki mást kompromittálni. „Sok helyen kiszervezték mondjuk a Service Desket, és volt, hogy a támadó egyszerűen betelefonált, hogy elhagyta a jelszavát. A munkatárs nem is ismerte a céget, gyorsan túl akart ezen lenni, és ellenőrzés nélkül kiadta az új jelszót” – érzékelteti. Bár ilyenkor utólag szerződést bonthatnak a partnercéggel, gyakran nehéz átlátni a sokszor országhatárokon is átívelő láncolatokat. Az is egy kérdés, a külföldi szolgáltató mennyire van kitéve a saját országa titkosszolgálatainak. „Minden telco-cégnek biztosítania kell, hogy le lehessen hallgatni embereket, ha a bíróság elrendeli. Kérdés, hogy a partnercég országában épp milyen politikai szelek fújnak, és ki fog esetleg téged is megcélozni.”

A szoftveres autó egyszerre veszély és lehetőség

A digitalizált, szoftveresített autók okozhatnak fizikai veszélyt, de ez folyamatos teszteléssel jól kezelhető, mondja. Fontos azonban, hogy a döntéseket a járművek rendszerei helyben el tudják végezni. „Az autónak fel kell ismernie, ha valami veszélyes történik, mondjuk megpróbálják feltörni vagy letéríteni az útról kamu útjelekkel” – húzza alá. Ha arra várnánk, hogy az adatok felkerüljenek a gyártó felhőjébe, és a reakció visszajöjjön onnan, mire megérkezne a válasz, az már késő lehet. „Nem lehet mindenre felkészülni, viszont az utasokra veszélyt jelentő eseteket lehet előre kezelni.”

Azzal, hogy az autókat egyre inkább szoftverek irányítják, ha mindent jól csinálunk, sokkal biztonságosabb lehet a közlekedés. A gond ott kezdődik, amikor egy modern technológiát a gyártók egy régi rendszerbe akarnak beépíteni, erről beszélt kérdésünkre az autóipari kiberbiztonsággal foglalkozó Thomas Fischer. Hozzáteszi, hogy a fő probléma az, hogy még nem minden cég érti: azáltal, hogy az autók csatlakoznak az internetre, rengeteg új támadási pont jön létre. Ez azonban nem az önvezetéssel jelent meg, hanem már a kétezres években a navigációs rendszerek elterjedésével, hiszen már azokat is meg lehetett hackelni.

Thomas Fischer workshopja a 2025-ös Hacktivity konferencián (fotó: Tóth Dávid)

Mindenesetre szerinte bár az önvezető autók elterjedése okoz új kihívásokat a kiberbiztonsági szakembereknek, a legveszélyesebb helyzeteket még mindig az emberi faktor okozza, ami épp ezzel szorul vissza jelentősen. Természetesen 100%-osan kockázatmentes technológia nincs, ami azt jelenti, hogy a cégeknek felelősséget is kell vállalniuk. „Ez az egyik oka annak, hogy szerintem a legtöbb cég sosem fogja elérni az önvezetés négyes-ötös szintjét. Ahhoz ugyanis már komoly felelősség is társul, és ha az általatok gyártott autó elüt egy családot, azt nagyon nehéz elmagyarázni a részvényeseknek” – hangsúlyozza.

Thomas Fischer arra a kérdésünkre, szakemberként hogyan tud lépést tartani a folyamatos változásokkal, azt mondja, először is igyekszik a lehető legtöbb újdonságot kipróbálni. „Mi például évente 2-10-félét próbálunk ki a legmodernebb autókból, hogy lássuk, hogy fejlődnek a szoftverek. Szerintem ugyanis csak idő kérdése, hogy a szoftver fontosabbá váljon a hardvernél” – fejti ki. Hozzáteszi, ahogyan a kezdetekkor az iPhone-ra is azt mondták, ki venne meg egy olyan telefont, ami nem bír ki egy napnál többet töltés nélkül, ez a gyártók szemszögéből nézve még messzinek tűnhet, de a versenyképességhez elkerülhetetlen. Ha ugyanis az autógyártók nem tudnak lényegében szoftvercégekké átlényegülni, az csúnya bukáshoz vezethet. A jövő végső soron szerinte nem a klasszikus tech- vagy autócégeké, hanem a kettő között elhelyezkedő vállalatoké lesz. Ezért olyan új szereplők feltűnésére számít, akik értik mindkét területet.

Aki a gép alapján dönt, nem tanul belőle

Az AI-nak a sérülékenységek feltárásában is komoly szerepe lehet, kérdés, a támadók vagy a védekezők kezében. Bálint Bianka felidézi, hogy az Európai Uniós Kiberbiztonsági Ügynökség (ENISA) idei, sérülékenységeket összesítő jelentése szerint a social engineering támadások 80%-át már AI-jal rakják össze. Az is kihívás, hogy sok cégnek eladják, hogy az AI a szakemberek helyett detektálja a fenyegetéseket, ami veszélyezteti a következő, kiberbiztonsággal foglakozó generáció kinevelését. A szakértő kiemeli: ha automatizált detektálás alapján akarnak dönteni, de a rendszer nem tudja transzparensen kommunikálni, mi alapján javasolt valamit, akkor a kolléga nem fogja tudni, mi alapján is cselekedett, tehát tanulni sem fog tudni belőle.

Ráadásul aki nem alacsony szintű hibajegyekkel kezd, annak nem lesz meg a tapasztalata felülbírálni az AI inputjait, azaz könnyen egy veszélyes visszhangkamrába kerülhet kritikátlanul a gépre hagyatkozva, mondja. „A felhasználókat simán megcélozzák legitim infrastruktúráról, legtöbbször más céget kompromittálnak és onnan küldenek adathalász levelet, sharepointos linkekkel” – érzékelteti. Bár nem vitatja, hogy az AI sok mindent felismer, aggódik a tudásátadás miatt. „Én inkább tudásépítésre használnám az AI-t, hogy segítsen felhúzni az új generációt. Emellett amikor a szakemberek észrevesznek valamit, azt fontos be is táplálni az AI-ba, ezzel tanítva a rendszert, hogy vezetni tudja azok kezét, akik használják ezeket az eszközöket. Végső soron ugyanis felelősséggel tartozunk értük és azért, hogy kritika nélkül kiadnak-e egy jelszót egy támadónak.”

Teljesen új támadási technikák

Az új problémák miatt újszerű megközelítésre is szükség van, illetve a szoftvereknél korábban használt biztonsági elemeket is vissza kell hozni, mondja Marta Janus. Az AI-szolgáltatásokhoz ugyanis nincsenek digitális tanúsítványok, a modellek nincsenek hitelesítve, illetve biztonsági szempontból validálva. Ezekre nagy szükség lenne, mert úgy lehetne egy, a támadók számára könnyű célpontot megszüntetni, hogy valójában csak már ismert dolgokat kellene az AI-ra alkalmazni. Ugyanakkor új megoldásokat is ki kell fejlesztenie a szakmának az olyan új típusú támadásokra, mint az úgynevezett inference-támadások, amelyek manipulált vagy rosszindulatú kimeneteket kényszerítenek ki egy AI-modellből. Ilyen a generatív rendszereknél, például LLM-eknél használt prompt injection technika, fejti ki.

„Egyfelől szükség van arra, hogy minden technikát alkalmazzunk az AI-biztonság terén újragondolva ahhoz képest, ahogyan egy általános szoftverhez használtuk azokat, és új eszközök és technikák is kellenek ahhoz, hogy elhárítsuk azokat a támadásokat, amelyek teljesen mások, mint amiket eddig láttunk” – summáz. „Nem minden támadás új, de az említett prompt injection, más inference-támadások vagy a data poisoning módszere abszolút újdonságok, amelyek ellen ki kell fejlesztenünk a megoldásokat.” Kiemeli: néhány ilyen elérhető már a piacon, de ez még nem elég gyors a kiberbűnözőkhöz képest.

A komolyabb IT-tudással nem bíró AI-felhasználók védelméről a ChatGPT-t és a többi hasonló rendszert szolgáltató cégeknek kell gondoskodnia, húzza alá. Nekik kell azt is megoldani, hogy ne lehessen az AI-szolgáltatásokkal visszaélni. Jelenleg azonban a felállított korlátozások megkerülhetők. „Ahogy mondtam: ez egy macska-egér játék, és a kiberbűnözők egy kis lépéssel mindig előttünk járnak. De természetesen a kiberbiztonsági közösségnek fel kell zárkóznia és lépést kell tartania az újdonságokkal.”

Ha autókereskedő lennék, hobbiként akkor is foglalkoznék a kiberbiztonsággal

Bár nehéz naprakésznek maradni a folyamatosan változó dolgokkal, ezzel rendkívül izgalmas is ezen a területen dolgozni, hangsúlyozza Marta Janus. „Fontos, hogy sok biztonsági szakember összejöjjön, ötleteljen és megossza egymással az információkat” – hangsúlyozza. „Amikor elkezdtem a pályát, az AI-biztonság a terület egyik specializációja volt. Mára nem lehet ez a területed, mert ahhoz egyszerűen túl széles. Tovább kell specializálódni a témán belül, hogy tényleg képben lehess az újdonságokkal.” Hozzáteszi: ez a gyakorlatban azt jelenti, hogy a kutatócsoportokban már nem elég, ha van egy-két AI-biztonsági szakértő, hanem kell valaki, aki az interference támadásokra fókuszál, más aki az LLM-ekre és azok védőkorlátaira és valaki, aki az ellátási láncra. „Annyira sokoldalú az AI területe, hogy egyszerűbb beleásni magad egy kisebb területbe, és arra koncentrálni. És a növekedés csak folytatódik.”

Thomas Fischer azt emeli ki, hogy Európa legnagyobb hackerszövetsége, a Chaos Computer Club szemléletét osztja, mely szerint megbízható szoftverekre és egyértelmű felelősségi körökre van szükség. „Ha írsz egy programot, akkor felelsz érte, elfogadva, hogy mindig hordozni fog bizonyos kockázatokat. Ha ajtónyitó szerkezetet készítesz és puffertúlcsordulás miatt az összes kapu kinyílik, elő fognak venni. A szoftvereknél pont ugyanerről van szó” – érzékelteti. „A szoftveroldali felelősség mellett meg kell találnunk a módját a biztosítások bevonásának is, hiszen a kockázatok napról napra nőnek.”

„A hobbim a borászkodás, emellett szeretek a nap végén kikapcsolódni és eldobni a telefont a hátam mögé” – mondja Bálint Bianka arról, hogyan kezeli a folyamatosan változó környezetet. „Viszont engem ez érdekel, így nem is érzem a munkámat munkának. Nagyon szeretem ebbe a területbe beleásni magam. Néha ugyan borzasztó depresszív, de attól érzem jól magam, hogy egyre több mindent tudok.” Mint mondja, mindig követi az aktuális újdonságokat. „Érdeklődöm, és egyébként ki tudok kapcsolódni a nap végén.” Kérdésünkre azt is kifejti, hogy bár érdemes nemzetközi szakmai rendezvényekre is eljárni, az IT-szektorban való karrierépítéshez nem kell feltétlenül kimenni Nyugat-Európába. „Magyarországon elég sok shared services center (SSC) van, ahol elérhetők ilyen állások. Persze nagyon a topon kell lenni, és figyelni kell, hova tudnánk elmenni, és hol lehet gyakorlatot szerezni” – magyarázza.

„Együttműködés” – ez az első szó, amit Aurelio Picon Lopez arra a kérdésünkre felel, hogy miként lehet lépést tartani a rengeteg változással. „Erre a kérdésre sok válasz létezik, de számomra az együttműködés és a tudásmegosztás a legfontosabbak. Tiéd lehet a legszuperebb kiberbiztonsági cég a világon, az erőforrásai akkor is mindenkinek limitáltak. Egyszerűen lehetetlen mindent figyelni.” Kiemeli: épp ezért hasznos a konferencia is, ahol beszélgettünk vele. Kétfajta ember kerül a kiberbiztonság területére: aki csak jól akar keresni, hamar szembesül a szféra bonyolultságával, kiég és otthagyja, és az, akinek tényleg ez a szenvedélye. Vagyis követi a trendeket, az újdonságokat, mert kedveli, szeret játszani velük – vázolja fel. „Azt tanácsolom, hogy ha nem a kiberbiztonság a szenvedélyed, ne ezt a pályát válaszd, mert ki fogsz égni. Hogyan maradok naprakész? Úgy, hogy szeretem, amit csinálok. Ha mondjuk autókereskedő lennék, hobbiként akkor is foglalkoznék a kiberbiztonsággal.”

Szerző: Tarnay Kristóf Ábel

Megosztás: