Ειδικά Θέματα Επικοινωνιών και Επεξεργασίας Σήματος: Βαθιά Μάθηση

Εξάμηνο:
7ο
Τύπος Μαθήματος:
Προαιρετικό (ΠΜ)
Κατεύθυνση:
-
Κωδικός:
ΕΠ22στ
ECTS:
4
Διδακτικές Ώρες
Ώρες Θεωρίας:
3
Ώρες Φροντιστηρίου:
1
Ώρες Εργαστηρίου:
-
Μάθημα στις Ειδικεύσεις
Θεμελιώσεις Πληροφορικής (S1):
-
Διαχείριση Δεδομένων και Γνώσης (S2):
-
Λογισμικό (S3):
-
Υλικό και Αρχιτεκτονική (S4):
-
Επικοινωνίες και Δικτύωση (S5):
-
Επεξεργασία Σήματος και Πληροφορίας (S6):
-
Σχετικά Μαθήματα
Αναλυτική Περιγραφή
Σύντομη περιγραφή Μαθήματος
Βιβλιογραφία

Το μάθημα "Βαθιά Μάθηση" εστιάζει στις προηγμένες τεχνολογίες και αρχιτεκτονικές βαθιάς  μάθησης που διαμορφώνουν το σύγχρονο τοπίο της τεχνητής νοημοσύνης. Στοχεύει στην κατανόηση  θεωρητικών θεμελίων, την πρακτική υλοποίηση προηγμένων μοντέλων και την ηθική ανάπτυξη  συστημάτων τεχνητής νοημοσύνης. Το περιεχόμενο του μαθήματος περιλαμβάνει θεμελιώδεις αρχές  όπως γραφήματα υπολογισμού (computation graphs), συναρτήσεις ενεργοποίησης, αλγόριθμους  βελτιστοποίησης και τεχνικές κανονικοποίησης (regularization). Καλύπτει κλασικές αρχιτεκτονικές  βαθιών νευρωνικών δικτύων (CNNs, RNNs κτλ), αρχιτεκτονικές για δεδομένα που έχουν δομή γράφων  (GNNs), καθώς και σύγχρονες αρχιτεκτονικές όπως μετασχηματιστές (Transformers), οπτικούς  μετασχηματιστές (Vision Transformers) και θεμελιακά μοντέλα (Foundation models). Επιπλέον,  εισάγονται τεχνικές αυτό‐επιβλεπόμενης μάθησης (self‐supervised learning) και αντιθετικής μάθησης  (contrastive learning) για αναπαραστάσεις από μη‐επισημασμένα δεδομένα καθώς και τεχνικές  πολυτροπικής μάθησης (multimodal learning). Το μάθημα περιλαμβάνει επίσης παραγωγικά μοντέλα  όπως αυτοκωδικοποιητές (AEs, VAEs), παραγωγικά αντιπαλικά δίκτυα (GANs) και μοντέλα διάχυσης  (Diffusion models). Εξετάζονται μέθοδοι τανυστών για την ερμηνεία και βελτιστοποίηση μοντέλων.  Τέλος, συζητούνται ηθικές προκλήσεις και θέματα δεοντολογίας στην ανάπτυξη συστημάτων τεχνητής  νοημοσύνης.