Esittely
Elämäntyyliäni ohjaavat analyyttinen ajattelu, uteliaisuus ja johdonmukaisten määritelmien kehittäminen. Ammatillisiin mielenkiinnonkohteisiini kuuluvat lisäksi laskennalliset tieteet, matematiikka ja holististen oppimisjärjestelmien implementointi. Jos jokin mainitsemistani asioista tai tutkimuksessani vaikuttaa mielenkiintoiselta, ota ihmeessä yhteyttä!
Tutkimuskuvaus
Tekoälyn linjaamisen (engl. AI Alignment) tavoitteena on ohjata tekoälyjärjestelmiä kohti henkilön tai ryhmän asettamia tavoitteita, mieltymyksiä tai eettisiä periaatteita. Mekanistinen tulkittavuus (engl. Mechanistic Interpretability) tarkoittaa neuroverkkojen takaisinmallintamista (engl. reverse engineering), jossa ne hajotetaan (toivottavasti) ihmiselle ymmärrettäviin osiin, kuten piirteisiin (engl. features) ja piireihin (engl. circuits), neuroverkkojen ymmmärryksen kehittämiseksi ja ohjata malleja kohti toivottuja tuloksia inferenssin aikana.
Nykyisessä tutkimuksessani keskityn ymmärtämään mekanistista tulkittavuutta tieteenalana, selvittämään, miten harvat autoenkooderit (engl. Sparse Auto Encoders) voivat eristää piirteitä neuroverkosta, ja miten mekanistista tulkittavuutta voidaan yhdistää tekoälyn suuntaamiseen turvallisempien ja vakaampien tekoälymallien luomiseksi.