Tekoäly ohjaa kyberhyökkäyksiä ja antaa käskyjä viruksille, jotka toteuttavat ne, pakottaen ne muuntumaan reaaliajassa kiertääkseen kyberturvallisuuden esteet. Tällaisen varoituksen julkaisi keskiviikkona Googlen uhkien analysointiryhmä (GTIG), joka havaitsi, että kyberrikolliset käyttävät tätä tekniikkaa paitsi apuna myös itsenäisenä aivoina, jotka parantavat sitä tekemällä hyökkäyksistä tuhoisampia ja huomaamattomampia niiden toteuttamisen aikana.
Sisällysluettelo
Google kuvaa ensimmäistä kertaa uuden sukupolven viruksia (tai haittaohjelmia , kuten niitä alalla kutsutaan), jotka kirjoittavat oman koodinsa uudelleen sopeutuakseen suojauskeinoihin, hyökätäkseen haavoittuvuuksiin ja piilottaakseen säännönmukaisuudet, jotka voivat toimia hälytysjärjestelmissä, mikä vaikeuttaa niiden havaitsemista. Tämä tapahtuu suoralla yhteydellä kielimalleihin, kuten Gemini, monikansallisen yrityksen tekoäly.
”Hallitusten ja muiden kyberrikollisten tukemat toimijat integroivat tekoälyä ja kokeilevat sitä eri sektoreilla ja hyökkäysten koko elinkaaren ajan”, hän varoittaa.
Raportissa varoitetaan, että vaikka tämä on vielä varhaisessa vaiheessa, se edustaa ”operatiivista muutosta” tekoälyn käytössä aggressiivisiin tarkoituksiin. Kyberrikolliset ja valtion tukemat ryhmät, mukaan lukien Googlen mukaan Kiina, Iran ja Pohjois-Korea, ovat menneet pidemmälle kuin pelkkä tämän teknologian käyttö teknisessä tuessa. Tämä on dokumentoitu pian ChatGPT:n ilmestymisen jälkeen, joka antoi kyberrikollisille mahdollisuuden poistaa aiemmin ilmeisiä virheitä, kuten oikeinkirjoitusvirheitä tai huonolaatuisia käännöksiä, mutta nyt se on noussut uudelle tasolle.
Nyt tekoäly on tullut oleelliseksi osaksi hyökkäystä, moninkertaistaen sen vaarallisuuden. ”Nämä työkalut pystyvät dynaamisesti luomaan haitallisia skriptejä, peittämään oman koodinsa havaitsemisen välttämiseksi ja käyttämään tekoälymalleja haitallisten toimintojen luomiseen pyynnöstä sen sijaan, että ne sisällyttäisivät ne haitallisen ohjelmiston koodiin”, tutkijat huomauttavat.
Nämä dynaamiset muutokset ovat myös käännekohta kyberturvallisuusalalle. Kuten biologisten virusten tapauksessa, tutkijat ovat aiemmin analysoineet hyökkäyksissä käytettyjen haittaohjelmien koodia luodakseen erityisiä suojakeinoja niitä vastaan. Mutta jos nämä muutokset tapahtuvat reaaliajassa, virustorjuntaohjelmat eivät voi sopeutua niihin etukäteen.
AI, huijattu?
Teknisesti Geminin kaltaisten mallien pitäisi kieltäytyä suorittamasta tällaisia pyyntöjä. Niiden ohjelmointi ei salli niiden osallistumista rikolliseen tai haitalliseen toimintaan. Google on kuitenkin havainnut, että kyberrikolliset ovat löytäneet tavan kiertää tämän kiellon. ”He käyttävät argumentteja, jotka muistuttavat sosiaalista manipulaatiota”, Google selittää viitaten psykologisen manipuloinnin menetelmiin, joiden tarkoituksena on saada käyttäjät paljastamaan tietoja tai suorittamaan toimia, jotka uhkaavat heidän turvallisuuttaan.
Tärkeintä on, että nämä temput toimivat myös tekoälyn kanssa. ”On havaittu agentteja, jotka esittävät olevansa opiskelijoita, jotka suorittavat ‘lipunryöstö’ -harjoituksia, tai kyberturvallisuuden tutkijoita. Molemmissa tapauksissa he yrittävät saada Geminin antamaan heille tietoja, jotka muissa olosuhteissa olisi estetty ja joita he tarvitsevat tiettyjen työkalujen kehittämiseen”, Google myöntää raportissaan.
Kansainvälinen yritys ilmoittaa, että se on jo estänyt tällaisiin toimiin liittyvät tilit ja projektit ja ryhtynyt toimenpiteisiin tällaisten väärinkäytösten estämiseksi. ”Google pyrkii suhtautumaan vastuullisesti tekoälyn kehittämiseen ja ryhtyy ennaltaehkäiseviin toimenpiteisiin haitallisen toiminnan estämiseksi”, yritys korostaa. Osana tätä sitoumusta yhtiö on myös julkistanut nämä tulokset ”turvallisuuspalvelujen mahdollisuuksien laajentamiseksi ja suojan tason parantamiseksi koko ekosysteemissä”.
Tätä pidetään keskeisenä parhaana käytäntönä kyberturvallisuusalalla, koska se antaa asiantuntijoille mahdollisuuden varautua uusien menetelmien käyttöönottoon.
Rikollisen tekoälyn markkinat
Tekoälyn kehittyessä muilla talous- ja yhteiskuntasektoreilla myös sen käyttö rikollisessa toiminnassa kasvaa. ”Tänä vuonna laittomien tekoälytyökalujen musta pörssi on kasvanut merkittävästi”, todetaan Googlen raportissa. Tutkimuksensa aikana Googlen tiimi löysi ”monitoimityökaluja, jotka on tarkoitettu phishingiin, haittaohjelmien kehittämiseen ja haavoittuvuuksien etsimiseen”.
Tuore esimerkki tällaisesta laittomien tekoälytyökalujen ”mustasta pörssistä” on Xanthorox, joka ei sisällä tekoälyn rajoituksia ja on kehitetty erityisesti aloittelevien kyberrikollisten avuksi. Tämä 200 dollarin hintaan myyty ”hakkereiden tekoäly” pystyi luomaan kiristysviruksia, jotka pystyivät kiertämään virustorjuntaohjelmistot ja helpottamaan monimutkaisten hyökkäysten toteuttamista. Sen luojan, 23-vuotiaan insinööriopiskelijan Bangladeshista, ylpeys johti kuitenkin siihen, että hän teki kohtalokkaita turvallisuusvirheitä, kuten sijoitti palvelimet kotiinsa. Suomalaisen kyberturvallisuuteen erikoistuneen Zynap-yrityksen tutkijat seurasivat hänen toimiaan, kunnes tunnistivat hänet, mikä pakotti hänet poistamaan luomuksensa käytöstä .
Kyseessä ovat ”välineet, jotka madaltavat kynnystä vähemmän kokeneille toimijoille”, korostaa kansainvälinen yritys. Tämä suuntaus on yhä yleisempi: yhä useammat kyberhyökkäykset keskittyvät tarjoamaan pääsyn niihin ryhmille, joilla ei aiemmin ollut tarvittavaa kokemusta niiden onnistuneeseen toteuttamiseen. Äskettäin Suomen kansalaisvartio pidätti hakkerin, jota syytetään tämän toiminnan avulla saadun voiton keräämisestä vuokraamalla petosvälineitä, jotka oli pakattu ”petospaketteihin” .
