A mesterséges intelligencia nem csak új lehetőségeket, hanem új kockázatokat is teremt

 

Az AI térnyerésével párhuzamosan megjelent a vibe coding jelenség is, ami nem csak a szoftverfejlesztés világában lett hamar felkapott, de a lelkes programozni vágyók előtt is új világ tárult ki ezzel. Ma már programozói tudás nélkül is bárki fejleszthet weboldalt, applikációt vagy böngészőbővítményt, a fejlesztőnek nem kell bonyolult kódstruktúrákat megírnia; elegendő, ha világosan megfogalmazza az elvárásait az AI-nak, a mesterséges intelligencia pedig azonnal előállítja a kódot. A jelenség több szakmai kérdést is felvet, de emellett fontos kitérni a biztonsági kockázatokra: statisztikák szerint az AI által generált kódok 40% és 70% közötti hányada tartalmaz valamilyen biztonsági rést vagy rejtett sebezhetőséget, nyelvtől, feladattól és a használt AI-modelltől függően.

 

Ezen felül a „vibe coder-ek” és a technológiát munkára használó dolgozók sokszor anélkül kötnek össze AI-agenteket érzékeny adatokkal vagy írnak be AI-chatbotokba bizalmas céges információkat - a hatékonyság növelése érdekében -, hogy tisztában lennének a biztonsági és adatvédelmi kockázatokkal. Egy vállalat számára egy ilyen biztonsági incidens nem csak súlyos anyagi, hanem jogi és reputációs kockázattal is járhat.

 

Mindenki találkozott már adathalász levelekkel, amik már nem csak tökéletes magyarsággal íródnak, de olyan személyre szabott információkat is tartalmazhatnak, ami hozzánk vagy cégünkhöz köthető, így még nagyobb eséllyel kattintanánk az adott linkre. Egy meggyőző adathalász e-mail elkészítése korábban 16 órát vett igénybe, az AI-val ez mindössze 5 percre csökkent.

 

Az AI által vezérelt zsarolóvírusok korszakát éljük

 

Míg korábban az AI-t jobbára csak eszköznek tekintették a támadók kezében, ma már valósággá váltak az AI által fejlesztett zero-day exploitok, vagyis az AI már képes önállóan megtalálni teljesen ismeretlen programhibákat, és saját maga képes megírni hozzájuk a támadó kódot.

 

Forrás: Magnific

 

Az ESET Kutatóközpontja azonosította az első AI-alapú zsarolóprogramot, a PromptLock-ot és egy generatív AI-t kihasználó Androidos kártevőt, a PromptSpy-t.

 

Az AI-agenteket (ügynököket) tekintve az ESET legújabb Threat Riportja szerint nemrégiben 900 000 nyilvános AI-képességet (skill-t) vizsgáltak meg, amiből 25 000 bizonyult gyanúsnak, több mint 3 000 pedig kifejezetten rosszindulatú volt. Ezeket adatkiszivárogtatásra, malware-ek letöltésére és az agent viselkedésének észrevétlen megváltoztatására tervezték.

 

ESET AI-védelmi megoldások

 

Az ESET továbbfejlesztette B2B termékcsaládját, hogy segítse a cégeket az AI-alapú fenyegetések elleni védekezésben. 

 

Az új fenyegetésekre válaszul kibővítették az ESET PROTECT platformot, kifejezetten az AI-alapú munkafolyamatok és agentek védelmére fókuszálva. Az új portfólió két kulcsfontosságú modullal egészült ki:

 

• ESET AI agent biztonság

 

Védelmet nyújt az AI-eszközök használata során. Ellenőrzi, hogy az AI-agentek mihez férnek hozzá és mit töltenek le, hogy megakadályozza a rosszindulatú összetevők bejutását a vállalat rendszerébe.

 

• ESET AI viselkedéselemzés

 

A funkció figyelemmel kíséri, hogyan viselkednek az AI-eszközök és agentek a végpontokon mindennapi működésük során. Felismeri a gyanús vagy váratlan viselkedést, és korai szakaszban jelzi azt, mielőtt biztonsági incidenssé válna.

 

Az AI-fejlesztések részeként az ESET PROTECT platformban elérhető az ESET LiveCortex technológia, amely egy átfogó korrelációs és incidensreagáló motor.

 

Ezzel párhuzamosan az ESET generatív AI kiberbiztonsági asszisztense, az AI Advisor neve ESET LiveAI-ra változik – az új név jobban kifejezi a megoldás helyét a vállalat termékportfóliójában, valamint azon új képességét, hogy valós idejű kontextust biztosít a fenyegetések elhárításához.

 

„Ahogy a kiberbiztonság belép az autonóm mesterséges intelligencia korszakába, az ESET egy megújult B2B portfólióval segíti a szervezeteket az új, AI-alapú fenyegetések kezelésében. Ez az új termékkínálat – a 40 millió eurós AI-beruházásunkkal együtt – hűen tükrözi elkötelezettségünket az AI-biztonsági hiányosságok felszámolása iránt, és biztosítja, hogy a védelmi szempontok az innováció középpontjában maradjanak” – tette hozzá Michal Jankech, Vállalati-, kis- és középvállalkozási, valamint menedzselt szolgáltatói szegmensekért felelős alelnök.

 

Az üzleti portfólió bővülése után nem kell sokat várni, hamarosan a lakossági portfólióban is elérhetőek lesznek új AI-védelmi megoldások.

 

 

Miért lett az AI egyszerre hatékony eszköz és kockázati tényező vállalati szinten? 

 

Hazánkban egyedülálló, hiánypótló kutatást készített az ESET termékeket forgalmazó Sicontact Kft. 

 

A felmérés rávilágít arra, mennyire bíznak meg az AI-ban a magyar munkavállalók, tudatában vannak-e a cégvezetők annak, hogy munkavállalóik a cég szenzitív adatait AI-jal dolgoztathatják fel vagy épp hogyan változtatja meg az AI a felhasználók biztonsági döntéseit.

 

Az iparági riport bemutatja, hogy a mesterséges intelligencia használata milyen új kockázatokat és felelősséget jelent ez a vállalatok számára IT-biztonsági, munkáltatói és mentális szempontból.

 

A MI a baj? Mesterséges intelligencia, IT-biztonság és mentális egészség white paper letölthető a www.miabaj.hu oldalról.

 

 

English Summary

Artificial intelligence offers businesses new opportunities, but it also creates serious cybersecurity risks. AI-generated code can contain security vulnerabilities, while employees may unintentionally expose sensitive company data by using AI tools without proper precautions. AI has also made phishing attacks faster, more convincing, and highly personalized, reducing the time needed to create a sophisticated phishing email from 16 hours to just five minutes. Furthermore, cybercriminals are increasingly using AI to develop malware, discover unknown vulnerabilities, and exploit malicious AI agents. To address these emerging threats, ESET has expanded its B2B cybersecurity portfolio with new AI agent security and AI behavior analysis features. The ESET PROTECT platform also includes LiveCortex technology, while the company's AI cybersecurity assistant has been renamed ESET LiveAI. These developments aim to help businesses benefit from AI safely while protecting sensitive data, systems, and their reputation.