MATS2900 Mathematics of machine learning (5 op)

Opintojakson suoritettuaan opiskelija ymmärtää koneoppimisen matemaattisen perustan. Mitä tarkoitetaan PAC-oppimisella? Mitkä hypoteesiluokat ovat PAC-opittavissa, ja mikä on tämän kysymyksen yhteys hypoteesiluokan Vapnik-Chervonenkis (VC-)dimensioon? Pääesimerkkeinä yleisestä teoriasta toimivat perseptronit ja neuroverkot. Mikä on neuroverkkojen VC-dimensio? Mikä funktiot voidaan esittää neuroverkkojen avulla? Mikä on (stokastinen) gradienttimenetelmä, ja milloin sitä voidaan käyttää PAC-oppimisongelman ratkaisuun?

Opintojaksolla käytetään runsaasti todennäköisyyksiä ja odotusarvoja sekä lineaarialgebraa. Näitä varten suositellaan esitiedoiksi kursseja 

- Stokastiikan perusteet, Todennäköisyysteoria 1

- Mitta- ja integraaliteoria 1

- Lineaarialgebra ja geometria 1 ja 2

- Vektorianalyysi 1.

Alustava luentomoniste (englanniksi) on saatavilla osoitteessa

https://drive.google.com/file/d/1lQsGGwV-hJZnmN1jr1e6ouQD_uA8zv4X/view

Luentomoniste perustuu suurelta osin Shai Shalev-Shwartzin and Shai Ben-Davidin kirjaan "Understanding Machine Learning". Kirjan voi (kirjoitushetkellä) ladata maksutta ensimmäisen kirjoittajan verkkosivulta.