Esittely
Elämäntyyliäni ohjaavat analyyttinen ajattelu, uteliaisuus ja johdonmukaisten määritelmien kehittäminen. Ammatillisiin mielenkiinnonkohteisiini kuuluvat tutkimusaiheideni lisäksi laskennalliset tieteet, matematiikka, holististen oppimisjärjestelmien implementointi ja systeemiajattelu. Teen mielelläni yhteistyötä yritysten, julkisen sektorin ja median kanssa.
Tutkimuskuvaus
Tekoälyn linjaamisen (engl. AI Alignment) tavoitteena on ohjata tekoälyjärjestelmiä kohti henkilön tai ryhmän asettamia tavoitteita, mieltymyksiä tai eettisiä periaatteita. Mekanistinen tulkittavuus (engl. Mechanistic Interpretability) on tekoälyturvallisuuden (engl. AI Safety) osajoukko, joka pyrkii neuroverkkojen takaisinmallintamiseen (engl. reverse engineering), jossa ne hajotetaan (toivottavasti) ihmisymmärrettäviin osiin, kuten piirteisiin (engl. features) ja piireihin (engl. circuits). Neuroverkon osiin hajottamisella kehitetään ymmärrystä neuroverkoista, joka mahdollistaa esimerkiksi mallien ohjaamisen (engl. Steering) myös itse generoinnin aikana.
Nykyisessä tutkimuksessani keskityn ymmärtämään mekanistista tulkittavuutta tieteenalana, selvittämään, miten neuroneita ja piirejä voidaan tulkita suoraan ilman harvoja autoenkoodereita (engl. Sparse Auto Encoders), kehittämään intuitiivista ymmärrystä tekoälyn riskeistä, ja miten mekanistista tulkittavuutta voidaan yhdistää tekoälyn suuntaamiseen turvallisempien ja vakaampien tekoälymallien luomiseksi. Tekoälyturvallisuuden kehittäminen onkin erityisen tärkeää, jotta voisimme välttää erilaisten tekoälyriskien toteutumisen!