Kehotehyökkäykset sosiaali- ja terveysalalla

Generatiivinen tekoäly (GenAI) ja suuret kielimallit (LLM) ovat muuttamassa sosiaali- ja terveysalaa nopeammin kuin koskaan aiemmin. Ne tarjoavat tehokkaita ratkaisuja esimerkiksi potilasneuvontaan, diagnoositukiin, hoitopolkujen sujuvoittamiseen ja asiakaspalvelun automatisointiin. Teknologian hyödyistä huolimatta näiden järjestelmien käyttöön liittyy uusia, vakavia tietoturvariskejä. Yksi keskeisimmistä on kehotehyökkäysten, eli prompt-hyökkäysten, uhka. Noin 88 prosenttia kehotehyökkäyksistä onnistuvat.  

Mikä on kehotehyökkäys?

Kehotehyökkäyksessä hyökkääjä manipuloi tekoälyjä antamalla sille sellaisia syötteitä (kehotteita), jotka saavat sen toimimaan alkuperäisen tarkoituksen vastaisesti. Sosiaali- ja terveysalalla tämä voi tarkoittaa esimerkiksi virheellisten hoito-ohjeiden tuottamista, arkaluontoisten potilastietojen paljastamista tai kriittisten toimintapäätösten ohjaamista harhaan. 

Riskit potilasturvallisuudelle ja tietosuojalle

Erityisen suuria riskejä syntyy, kun tekoälyä hyödynnetään potilastietojärjestelmissä, diagnoosituen antamisessa tai esimerkiksi terapiasovelluksissa, joissa yksittäisen vastauksen luotettavuus voi vaikuttaa suoraan potilaan hyvinvointiin. Kehotehyökkäys voi huomaamatta muokata tekoälyn antamaa suositusta siten, että esimerkiksi annettu diagnoosi viivästyy tai muuttuu virheelliseksi. Se voi myös johtaa vääriin hoitopäätöksiin, kuten sopimattomien lääkitysten suosituksiin. 

Tietovuodot ovat toinen keskeinen riski. Kehotehyökkäyksellä voidaan saada tekoäly paljastamaan potilastietoja, kuten diagnooseja, hoitohistoriaa tai henkilökohtaisia yhteystietoja, joko suoraan tai epäsuorasti. Tällainen tietovuoto voi aiheuttaa vakavaa haittaa sekä potilaille että organisaatiolle, tuoden mukanaan oikeudellisia seurauksia ja vahingoittaen asiakassuhteita. 

Turvarajojen ohitus ja eettiset haasteet

Turvarajojen ohitus on erityinen uhka, kun tekoälyä hyödynnetään raskaasti säädellyissä ympäristöissä, kuten sairaaloissa ja hyvinvointialueilla. Hyvin suunnitellut kehotehyökkäykset voivat kiertää sisäänrakennettuja rajoituksia, kuten kieltoja antaa vaarallisia hoito-ohjeita, mahdollisesti jopa siten, ettei järjestelmän kehittäjä huomaa ohitusta. 

Sosiaalinen ja eettinen vastuu korostuu erityisesti sosiaali- ja terveysalalla. Mikäli tekoälyratkaisun tuottamiin päätöksiin tai suosituksiin ei voi luottaa, vaarantuu paitsi potilaiden turvallisuus, myös alan toimijoiden lakisääteiset velvoitteet ja koko organisaation maine. Yksikin tapaus, jossa tekoäly antaa vakavasti virheellisen suosituksen kehotehyökkäyksen seurauksena, voi johtaa vakaviin seuraamuksiin, kuten oikeusjuttuihin, luottamuksen menetykseen ja jopa viranomaispuuttumiseen. 

Varautuminen kehotehyökkäyksiin

Tähän uhkaan varautuminen edellyttää laaja-alaista ja jatkuvaa turvallisuustyötä. Kehotehyökkäysten torjumiseksi sosiaali- ja terveysalan toimijoiden tulisi huolehtia siitä, että tekoälyratkaisujen syötteitä ja vasteita seurataan reaaliaikaisesti, ja että tekoälyjä käytetään aina säännönmukaisesti ja riskienhallinta huomioiden. Erityisesti RAG-järjestelmien (Retrieval-Augmented Generation) ja pitkän muistinsa omaavien tekoälyagenttien käytössä on syytä olla erityisen valppaana. 

Lisäksi tulee huolehtia henkilökunnan koulutuksesta. Hoitajat, sosiaalityöntekijät, lääkärit ja muut tekoälyä käyttävät asiantuntijat tulisi perehdyttää tekoälyn mahdollisiin riskeihin ja kehotehyökkäysten tunnistamiseen. Tietoturvapolitiikoissa on syytä määritellä selkeästi, kuinka tekoälyä hyödynnetään, ja mitä varotoimia eri käyttötilanteissa edellytetään. 

Yhteenveto

Tekoälyn mahdollisuudet ovat valtavat, mutta niin ovat myös sen hallitsemattoman käytön riskit. Kehotehyökkäyksiin valmistautuminen ei ole valinnaista, vaan välttämätön osa vastuullista tekoälyn käyttöä sosiaali- ja terveysalalla. 

Lähde: Securing GenAI Against Adversial Prompt Attacks. 2025. PaloAlto Networks. Saattavissa: https://www.paloaltonetworks.com/resources/whitepapers/prompt-attack