Sivistan johtaja Heikki Kuutti Uusitalo toteaa, että media- ja tekoälylukutaito ovat tärkeitä, mutta ihmistä ei voi jättää yksin tunnistamaan jatkuvasti taitavampia väärennöksiä.

– Lainsäädännön tehtävä on asettaa rajat sille, miten toisen persoonaa saa käyttää. Emme voi kouluttaa ihmisiä niin taitaviksi, että he erottaisivat aina tekoälysisällön aidosta, hän sanoo.

EU:n tekoälysääntely sisältää jo tekoälysisältöjen teknistä tunnistettavuutta ja deepfake-sisältöjen ilmoittamista koskevia velvoitteita. Sivistysala katsoo, että merkinnän pitää näkyä myös sisällön vastaanottajalle selvästi. Lisäksi verkkoalustoille olisi asetettava velvollisuus poistaa tai merkitä sisällöt, joista lain edellyttämä tekoälymerkintä puuttuu.

Sivistan mielestä ilman suostumusta tehtyjen, tunnistettavaa ihmistä matkivien deepfake-väärennösten tekeminen ja levittäminen on lähtökohtaisesti kiellettävä. Tekoälyn väärinkäytöllä voidaan johtaa ihmisiä harhaan taloudellisen hyödyn saamiseksi, poliittisen manipuloinnin vuoksi tai yhteiskunnan kaaoksen aiheuttamiseksi.

Vakavimmissa tapauksissa teon on järjestön mukaan oltava rangaistava. Se katsoo, että Suomen tulee ryhtyä toimiin kiellon edistämiseksi sekä kansallisesti että EU-tasolla.

– Laki suojaa ihmistä hänen kunniaansa loukkaavilta valheellisilta väitteiltä. Saman suojan on ulotuttava tilanteeseen, jossa ihminen pannaan tekoälyllä sanomaan tai tekemään jotakin, mitä hän ei ole koskaan sanonut tai tehnyt. Ihmisestä ei saa valehdella hänen omilla kasvoillaan ja äänellään, Uusitalo summaa.