Anthropic: Kolme tekoälylaboratoriota kopioi Claude-mallia teollisessa mittakaavassa

Yhdysvaltalainen tekoäly-yhtiö Anthropic ilmoittaa paljastaneensa kolmen ulkomaisen laboratorion laajamittaiset yritykset kopioida sen Claude-mallin kyvykkyyksiä ilman lupaa. Yhtiön mukaan toiminta rikkoo käyttöehtoja ja alueellisia rajoituksia sekä voi heikentää vientivalvonnan ja turvallisuussääntelyn tehokkuutta.

Anthropicin mukaan DeepSeek, Moonshot AI ja MiniMax loivat noin 24 000 vilpillistä käyttäjätiliä ja generoivat yli 16 miljoonaa vuorovaikutusta Clauden kanssa. Tavoitteena oli hyödyntää niin sanottua tislausta (eng. distillation), jossa heikompi malli koulutetaan vahvemman mallin tuottamilla vastauksilla. Menetelmä on sinänsä yleinen ja laillinen, mutta toisen toimijan mallin järjestelmällinen hyödyntäminen ilman lupaa rikkoo sopimusehtoja ja voi täyttää myös muita oikeudellisia tunnusmerkistöjä.

Yhtiön mukaan käyttäjätilien toiminta erosi selvästi normaalista asiakaskäytöstä. Kyselyt olivat määrältään poikkeuksellisen suuria, rakenteeltaan toistuvia ja kohdistuivat erityisesti päättelykykyyn, työkalujen käyttöön ja ohjelmointiin. Liikennettä hajautettiin laajojen välityspalvelinverkostojen kautta, jotta tunnistaminen vaikeutuisi. Anthropicin mukaan toimijat pystyttiin yhdistämään laboratorioihin IP-osoitteiden, pyyntömetatietojen ja infrastruktuuriviitteiden perusteella sekä yhteistyössä muiden alan yritysten kanssa.

Anthropic varoittaa, että luvattomasti tislatut mallit eivät välttämättä sisällä samoja turvarakenteita kuin alkuperäiset järjestelmät. Tämä voi sen mukaan lisätä riskiä, että kehittyneitä tekoälyominaisuuksia hyödynnetään esimerkiksi haitallisiin kyberoperaatioihin tai muuhun turvallisuutta vaarantavaan toimintaan. Samalla yhtiö katsoo, että tällainen toiminta voi murentaa Yhdysvaltojen vientivalvonnan tavoitteita, jos ulkomaiset toimijat kykenevät kuromaan teknologista etumatkaa umpeen kopioimalla yhdysvaltalaismallien ominaisuuksia.

Yhtiö kertoo vahvistaneensa teknisiä tunnistus- ja estomekanismejaan sekä kiristäneensä tilien varmennuskäytäntöjä. Lisäksi se on jakanut havaintojaan muiden tekoäly- ja pilvipalvelutoimijoiden sekä viranomaisten kanssa. Anthropicin mukaan ilmiö edellyttää koordinoitua vastausta teollisuudelta ja päättäjiltä, sillä yksittäinen yritys ei kykene torjumaan laajamittaisia tislaushyökkäyksiä yksin.

Anthropicin tiedotteen asiasta voit lukea täältä.

Kuva: Unsplash / Solen Feyissa