Μαθήματα

Design of low power, nanoscale CMOS analog integrated circuits.

Course Schedule:       Thursdays, 17-19(20), Room 145P42.

Instructor:                    Associate Professor Matthias Bucher

Language:                    English.

Prerequisite:                Knowledge of electronic circuit design.

This course presents the design of low-power, analog integrated circuits, using advanced nanoscale CMOS technology. The inversion coefficient is introduced as the key parameter and technique for the design and optimization of figures-of-merit applied to circuits including amplifiers and oscillators.

Introduction to advanced micro-nanoelectronic devices and integrated circuit (IC) technology and manufacturing. Evolution of very large scale (VLSI) technology. International Roadmap for Devices and Systems (IRDS). Co-evolution of technology for logic and analog/RF applications, cryogenic, space applications, quantum computing e.a. Charge transport in semiconductors, drift and diffusion transport. High-field effects and self-heating. Effects of high temperature and cryogenic temperature in silicon and compound semiconductors. Principle of operation of field-effect transistors (FETs). Compact modeling of nanoscale electron devices. Electrical characterization of nanoscale electronic devices. Noise in electronic devices, statistical variablity and mismatch. Parameter extraction. Circuit simulation and Process-Design Kits (PDKs). Figures of merit (FoM) for electronic devices. FoM for digital, analog, and RF applications. Advanced multi-gate FETs for radio-frequency (RF) applications: From FDSOI to FinFET and Gate-all-around (GAA) technologies, Junctionless FETs, High electron mobility transistor (HEMT) with GaN and GaAs technology, High-voltage LDMOSFETs. Emerging logic technologies: Nanowire, nanoribbon and nanotube FETs, tunneling FETs (TFETs). Advanced micro-naonelectronic devices for harsh environments: radiation, space, biomedical, cryogenics, quantum computing, flexible electronics.

Topics/themes (provisional list for 2025 course instantiation): Utility Theory, Decision Theory, Game Theory (cooperative/non-cooperative). Rationality and strategic decision making. Reinforcement Learning and Multiagent Reinforcement Learning. Elements of Unsupervised Learning and Probabilistic Topic Modeling. Deep Learning and Deep Reinforcement Learning (DRL). DRL and Graph Neural Networks. Learning in game-theoretic and multiagent environments. Explainability in AI and Explainable DRL. Safe and ethical AI / Safe and ethical RL . Hierarchical RL (HRL), Federated RL (FRL), HF RL, MA-(H and/or F) RL.

The course content will be significantly updated this year! Please check the description carefully

Summary: The class will cover classes of networking problems and the theoretical tools that can be used for modeling and optimizing such problems (but not only). Here, you can find the 4 main tools we will learn. You can also see the specific applications we will apply these tools in detail, as examples.

1. Modeling Network Problems with Discrete Time Markov Chains
   • Theory: Definition, n-step Analysis, stationary distribution, transient analysis 
   • Applications: 
     • Search Engines (PageRank),
     • Recommendation-driven Content platform (Youtube,spotify,etc) Model
     • MAC Protocol Theory (Slotted Aloha, 802.11/WiFi)
     • unbiased sampling of Large Social Networks
2. Solving Networking Problems with Discrete and Continuous Optimization Methods
   • Theory: Discrete Optimization and Submodular Maximization Theory, Convex Optimization Overview, Network Utility Maximization, Distributed Optimization
   • Applications Covered:
     • Cache (CDN) Optimization
     • Fair Resource Allocation,
     • TCP Congestion ControL
3. Optimizing Large Data Centers & Clouds with Advanced Queueing Theory
   • Theory: Quick Intro to M/M/* queues. Mg1/FCFs/LCFS, Priority Queuing, Size-based scheduling, PRocessor Sharing, task assignment  
   • Applications Covered
     • Load balancing in Multi-server systems (CDN, DNS),
     • modern clouds for multi-server Machine Learning jobs

• 4.Graph Theory for Social Network Analysis
  • Theory: :Social network properties (Scale-Free structure, Small World phenomena, Community, Homopily), Random Graph model (Erdos-Renyi, Watts-Strogatz, Preferential Attachment), Random Walks on Graphs, Centrality Measures
  • Applications Covered:
    • Opinion Polarization in Social Networks,
    • Opinion Evolution and Influence over Social Nets
    • Network navigability

Phase portrait. Second-order systems. Existence and uniqueness of solutions. Sensitivity equations. Comparison principle. Lyapunov stability. LaSalle theorem. Linearization. Center manifold theorem. Stability of perturbed systems. Input-to-state stability. Input-output stability. Perturbation theory and averaging. Singular perturbations. Circle and Popov criteria. Nonlinear control design using backstepping.

The course will cover tools for optimization problems, where a sequence of (inter-dependent) decisions must be made (dynamically), often under uncertainty about the environment to be optimized (requires learning). Problems like this arise in many modern applications, ranging from autonomous driving and robotics, to game playing (chess, poker, go) and wired/wireless network management. The specific topics covered will be the following: Quick revision of first order optimization methods (gradient descent and stochastic gradient descent); Multi-armed Bandits; First order algorithms for Online Convex Optimization; Online Convex Optimization with instantaneous and long-term constraints; Distributed online convex optimization; backpressure algorithms for Stochastic Network Optimization; Markov Decision Processes; Tabular Reinforcement Learning - RL (Q-Learning, SARSA); Policy gradient methods; Approximate (e.g. Deep) RL solutions such as Deep Q Networks, Actor-Critic methods, and the recent AlphaGo and AlphaZero algorithms, that have been very successful in popular strategic games; Generalized policy rollout for online learning; The class will include both take home exercises, as well as a programming assignment.

Time series data are indexed by the time dimension. This feature imposes a natural order and distinguishes time series from "static" data.  Every data scientist is bound to face at some point in their career time series data.  This course focuses on the fundamental concepts underlying the analysis of time series and some of the methods that can be used to model such data. 

Time series analysis has a long history which led to the development of classical methods such as ARIMA. The machine learning revolution has introduced new tools for time series analysis which are based on deep neural networks (DNNs). However, for most of the everyday problems faced by data scientists, ARIMA and its generalizations perform as well (or even better) than DNN methods which require a very large amount of data in order to achieve their full potential.

This course will focus on classical methodologies of time series analysis.  While the latter are not based on DNNs, they are today considered components of the broad machine learning framework.

SPRING SEMESTER 2023-2024

Tuesday 7-9pm

Wednesday 5-7pm

ROOM 145.Π58

Time series data are indexed by the time dimension. This feature imposes a natural order and distinguishes time series from "static" data.  Every data scientist is bound to face at some point in their career time series data.  This course focuses on the fundamental concepts underlying the analysis of time series and some of the methods that can be used to model such data. 

Time series analysis has a long history which led to the development of classical methods such as ARIMA. The machine learning revolution has introduced new tools for time series analysis which are based on deep neural networks (DNNs). However, for most of the everyday problems faced by data scientists, ARIMA and its generalizations perform as well (or even better) than DNN methods which require a very large amount of data in order to achieve their full potential.

This course will focus on classical methodologies of time series analysis.  While the latter are not based on DNNs, they are today considered components of the broad machine learning framework.

SPRING SEMESTER 2022-2023

Tuesday 5-7pm

Thursday 5-7pm

ROOM 145.Π58

Algorithms of Quantum Information

Review: Density matrix theory
Review: Quantum channels  theory

Majorization theory and entanglement: Nielsen's theorem
Quantum walks and majorization
Quantum phase estimation algorithms
Gradients on quantum hardware: The parameter shift rule
Strategies of information quantum encoding
Elements of quantum machine learning and applications
Quantum Boltzmann Machines

Διαλέξεις/Lectures

Έναρξη μαθημάτων Πέμπτη 20 Φεβρουαρίου 2025

Πέμπτη/Thu,           10:00-13:00  αιθ./Classroom 2042
Παρασκευή/Fri,      13:00-15:00 αιθ.Classroom 2041

Ώρες γραφείου :   Μία ώρα μετά το τέλος των διαλέξεων Πέμπτης και Παρασκευής ή μετά από συνεννόηση

Το μάθημα αυτό αποτελεί μια μεταπτυχιακού επιπέδου εισαγωγή στα κατανεμημένα συστήματα, και δίνεται σε συνδιδασκαλία και στους προπτυχιακούς φοιτητές, ως μάθημα επιλογής, με την ίδια ύλη και τις ίδιες απαιτήσεις. Το μάθημα περιλαμβάνει και θεωρητικό μέρος, και εργαστηριακό-προγραμματιστικό. 

Και φέτος το μάθημα θα πραγματοποιηθεί εξ αποστάσεως.

Στην κατηγορία  Σύνδεσμοι θα βρείτε το zoom link για όλες τις διαλέξεις του μαθήματος

(Μέρα: Τετάρτη,  Ώρα: 17.00-20.00, Αίθουσα: Π58)

Το μάθημα φέτος θα ασχοληθεί με προχωρημένα θέματα μοντελοποίησης και ανάλυσης μεγάλων (κοινωνικών και υπολογιστικών) δικτύων. Θα υπάρξει μια εισαγωγή σε βασικά θέματα Μαρκοβιανών αλυσίδων και συστημάτων αναμονής, και θα ακολουθήσουν διαλέξεις σε γενικευμένα δίκτυα αναμονής, χρονοδρομολόγηση, και ανάθεσης εργασιών, τα οποία έχουν σημαντικές εφαρμογές σε υπολογιστικά νέφη και συστοιχίες εξυπηρετητών. Θα αναφερθούμε στη συνέχεια σε Μαρκοβιανές διαδικασίες απόφασης, που είναι η βάση για μοντέρνους αλγόριθμους ελέγχου με τεχνητή νοημοσύνη. Τέλος, θα μελετήσουμε τις ιδιότητες μεγάλων κοινωνικών δικτύων, και τυχαίων διαδικασιών επί αυτών (π.χ., μετάδοση ιών, αναζήτηση, δειγματοληψία, κλπ.). Το μάθημα θα συνοδεύεται από μαθηματικά και προγραμματιστικά προβλήματα. 

ΝΕΩΤΕΡΕΣ ΠΛΗΡΟΦΟΡΙΕΣ: Με βάση την απόφαση της Γ.Σ. του τμήματος ΗΜΜΥ της 9ης Μαρτίου 2022, το μάθημα "Ειδικά Θέματα σε Μαθηματική Βιολογία" δε θα προσφερθεί κατά το εαρινό εξάμηνο 2021-220.

Ύλη μαθήματος (οδηγός σπουδών).

Μαθηματική μοντελοποίηση σε βιολογικά συστήματα. Μελέτη συστημάτων στο χώρο κατάστασης – παραδείγματα από την πληθυσμιακή βιολογία. Μελέτη ευστάθειας και διαγράμματα διακλαδώσεων. Νόμος δράσης των μαζών, κινητική ενζύμων. Θεωρία Michaelis – Menten – εισαγωγή στις μεθόδους διαταραχών. Αυτοκατάλυση, ενεργοποίηση, αναστολή. Βιολογικοί ταλαντωτές. Οριακοί κύκλοι. Εισαγωγή στις μερικές διαφορικές εξισώσεις. Νόμοι διατήρησης. Διάχυση, μεταφορά, χημειόταξη. Λύσεις οδευόντων κυμάτων – η εξίσωση Fisher. Μέθοδοι διαταραχών. Μηχανισμοί μορφογένεσης Turing.
Θα παρουσιαστούν εφαρμογές στη οικολογία, βιολογία και / ή φυσιολογία.

Special Topics in Mathematical Biology (Α)
Mathematical models in biological systems. Stability analysis and bifurcation diagrams. Enzyme kinetics. Michaelis Menten theory. Introduction to perturbation methods. Autocatalysis, activation, inhibition. Feedback control mechanisms. Biological oscillators. Limit cycles. Introduction to partial differential equations. The diffusion equation. Reaction - diffusion - chemotaxis models. Travelling wave solutions. Reaction - diffusion (turing) mechanisms. Pattern initiation in reaction-diffusion mechanisms. Various problems in ecology, biology and / or physiology will be presented.

Σκοπός του μαθήματος είναι να παρουσιάσει ειδικά θέματα αρχών σχεδιασμού αλληλεπίδρασης διεπαφών χρηστών συμπεριλαμβανομένου του σχεδιασμού διεπαφών, υλοποίηση διεπαφών, κανόνες και αρχές σχεδιασμού αλληλεπίδρασης, ποσοτικές και ποιοτικές μετρικές αξιολόγησης διεπαφών χρηστών. Το μάθημα αναλύει προχωρημένες αρχές Αλληλεπίδρασης Ανθρώπου Μηχανής (Human Computer Interaction). Eκπονείται ατομικό project ανάλυσης ευχρηστίας (usability), απαιτήσεων χρηστών (user requirements, use cases), καθορισμού personas, σχεδίασης πρωτοτύπων (prototyping, wireframes), υλοποίησης ιστοσελίδας, αξιολόγησης χρηστικότητας με βάση αυτές τις αρχές, σε επανασχεδιασμό ιστοσελίδας (back-end, front-end).

Παρακολούθηση κατάστασης, διάγνωση και πρόγνωση σφαλμάτων ηλεκτρικών μηχανών (ΗΜ), Ταυτοποίηση και διαφοροποίηση σφαλμάτων, Εσφαλμένα θετική ή αρνητική διάγνωση σφάλματος, Σπασμένες μπάρες κλωβού επαγωγικών κινητήρων, Απομαγνήτιση μηχανών μονίμων μαγνητών, Εσωτερικά βραχυκυκλώματα στάτη ΗΜ, Στατική, δυναμική και μεικτή εκκεντρότητα ΗΜ, Σφάλματα εδράνων, Εσωτερικά βραχυκυκλώματα σε μηχανές με τύλιγμα δρομέα, Μόνιμη και δυναμική κατάσταση λειτουργίας ΗΜ, Εκκίνηση επαγωγικών κινητήρων, Επαγωγική γεννήτρια διπλής τροφοδοσίας (DFIG), Σχεδιασμός ΗΜ, Ηλεκτρομαγνητική ανάλυση ΗΜ, Μηχανή μαγνητικής αντίδρασης (Reluctance), Υπεραγώγιμες γεννήτριες, ΗΜ αξονικής ροής, Γήρανση μονώσεων και τεστ μερικών εκκενώσεων. Ανάλυση υπογραφών ρεύματος στάτη (MCSA), Ανάλυση υπογραφών μαγνητικής ροής διακένου και ροής σκέδασης, Ηλεκτρομαγνητική και μηχανική ροπή, Μέθοδος του διανύσματος Park. 

Το μάθημα δεν διαθέτει περιγραφή

Στο μάθημα θα μελετήσουμε, κυρίως, αλγόριθμους κυρτής βελτιστοποίησης πρώτης τάξης (gradient-, subgradient-based), οι οποίοι αποτελούν ένα βασικό εργαλείο για την επίλυση προβλημάτων πολύ μεγάλης διάστασης.

Μεταξύ άλλων, θα μελετήσουμε

• στοιχεία κυρτής ανάλυσης (convex analysis)
• βέλτιστους αλγόριθμους πρώτης τάξης
• subgradient-based αλγόριθμους
• proximal-type αλγόριθμους
• stochastic gradient descent (SGD) και παραλλαγές της
• block coordinate descent (BCD)
• accelerated BCD, ADMM.

Το βασικό υλικό περιέχεται στο βιβλίο

• A. Beck, First-Order methods in Optimization, SIAM, 2017.

Χρήσιμες συμπληρωματικές πηγές

• S. Wright and B. Recht, Optimization for Data Analysis, Cambridge University Press, 2022 (επικεντρώνεται, κυρίως, σε αλγορίθμους πρώτης τάξης).
• D. Luenberger, Optimization by vector space methods, Wiley-Interscience, 1969 (κλασσικό βιβλίο, το οποίο μελετά τη βελτιστοποίηση μέσω εννοιών και εργαλείων Συναρτησιακής Ανάλυσης).
• R. Horn and C. Johnson, Matrix Analysis, 2nd Edition, Cambridge University Press, 2013 (κλασσικό βιβλίο, το οποίο περιέχει εκτενέστατη ανάλυση εννοιών Γραμμικής Άλγεβρας και Θεωρίας Πινάκων).
• E. Kreyszig, Introductory Functional Analysis with Applications, 1978, Wiley Classic Library (εξαιρετικό βιβλίο για Συναρτησιακή Ανάλυση - κατάλληλο για Μηχανικούς). 
• T. Rockafellar, Convex Analysis, Princeton University Press, 1970 (all-time classic σε convex analysis)
• J.-B. Hiriart-Urruty and C. Lemarechal, Fundamentals of Convex Analysis, Spinger 2001 (πολύ καλό βιβλίο σε convex analysis).

Η εξέταση θα γίνει μέσω

• σετ προβλημάτων με θεωρητικό και αλγοριθμικό περιεχόμενο,
• παρουσίασης εργασίας, η οποία θα μελετά σε βάθος ένα αντικείμενο από την περιοχή της Μηχανικής Μάθησης, της Ανάλυσης Δεδομένων, ή της Βελτιστοποίησης.

Ώρες διδασκαλίας (προτεινόμενες):

Τρίτη 17:00-19:00, Αίθουσα 137Π39

Πέμπτη 17:00-19:00, Αίθουσα 145Π42

ΑΠΛ

Προχωρημένα θέματα αρχιτεκτονικής υπολογιστών: εμβάθυνση σε αρχιτεκτονικές εκμετάλλευσης παραλληλισμού επιπέδου εντολών: super-scalar (με εκτέλεση εντολών σε σειρά ή εκτός σειράς), VLIW και EPIC, multi-scalar, πολυνηματική και ταυτόχρονη πολυνηματική επεξεργασία. Πρόβλεψη ροής εντολών και δεδομένων, θέματα κατάτμησης επεξεργαστών για υψηλότερες ταχύτητες ρολογιού και βελτίωση κατανάλωσης ισχύος. Ολοκλήρωση δικτυακής διεπαφής σε επεξεργαστές για παράλληλα συστήματα. Προχωρημένα θέματα μνημών κρύπτης (cache memories), trace-cache. Συστήματα μνήμης και δίαυλοι υψηλών επιδόσεων, αρχιτεκτονικές τεχνικές για μείωση κατανάλωσης ισχύος. Μελέτη και σύγκριση τελευταίων επεξεργαστών υψηλών επιδόσεων (case studies).

Δομή δικτύων μεταφοράς και διανομής ηλεκτρικής ενέργειας, στοιχεία γραμμών μεταφοράς (Γ.Μ.) και διανομής, ηλεκτρικοί υποσταθμοί. Ηλεκτρικά χαρακτηριστικά και μοντέλα Γ.Μ. Αντιστάθμιση άεργου ισχύος. Κυματικά φαινόμενα και διάδοση κυμάτων σε Γ.Μ. DC και AC ροή ισχύος. Βέλτιστη ροή ισχύος. Στατική ανάλυση ασφάλειας. Χρέωση συστήματος μεταφοράς. Μεταφορά με συνεχές ρεύμα. Φορτία συστήματος διανομής. Υπολογισμός τάσεων και απωλειών σε δίκτυα διανομής (συγκεντρωμένα, διανεμημένα φορτία). Ρύθμιση τάσης δικτύου διανομής. Χρέωση Καταναλωτών. Τεχνολογίες έξυπνων συστημάτων διανομής. ∆ιαχείριση έξυπνων συστημάτων διανομής. Βέλτιστη επαναδιαμόρφωση δικτύου διανομής. Επιδράσεις στα δίκτυα διανομής από τη διασύνδεση ΑΠΕ και ηλεκτρικών αυτοκινήτων.

Το μάθημα δεν διαθέτει περιγραφή