About
Deep Neural Networks (DNNs) sind die Schwergewichte der modernen KI und in der Lage, anspruchsvolle Aufgaben wie Bild- und Spracherkennung mit beeindruckender Präzision zu lösen. Allerdings bringen ihre Komplexität und Größe oft Herausforderungen mit sich: hoher Speicherbedarf, lange Rechenzeiten und ein großer Energieverbrauch.
Pruning is your friend! – eine Technik, die unnötige Verbindungen und Neuronen in einem Netzwerk entfernt, um es schlanker und effizienter zu machen. Dadurch bleibt die Leistung weitgehend erhalten, während der Ressourcenbedarf deutlich reduziert wird. Pruning ist ein entscheidender Schritt, um DNNs für praktische Anwendungen wie mobile Geräte oder eingebettete Systeme alltagstauglich zu machen.
Das Spiel wurde aber noch nicht zu Ende gespielt, denn basierend auf dem Pruning wurde 2019 die Lottery Ticket Hypothesis ins Leben gerufen von Jonathan Frankle und Michael Carbin (Link: The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks). Die Hypothese besagt, dass in einem überdimensionierten neuronalen Netzwerk bereits kleinere Subnetze – sogenannte "Winning Tickets" – existieren, die nach dem Training die gleiche Leistung wie das ursprüngliche Netzwerk erbringen können. Mit anderen Worten: Es ist möglich, ein großes Netzwerk zu trainieren, das anschließend durch Pruning auf ein effizienteres Subnetz reduziert wird, ohne dass die Genauigkeit leidet. Dieser Ansatz zeigt, dass DNNs oft redundanter sind, als man zunächst denkt, und legt den Grundstein für eine zielgerichtete und systematische Reduktion der Modellkomplexität.
Die Kombination aus Pruning und der Lottery Ticket Hypothesis unterstreicht, dass Effizienz und Leistung sich nicht gegenseitig ausschließen, sondern durch gezielte Optimierung Hand in Hand gehen können.
Einleitung
Das fiktive Game Studio RagePlayer® hat mit der Veröffentlichung ihres ersten Spiels ”Space Gladiators 4096“, ein futuristischer Third-Person-Shooter, einen beachtlichen Erfolg in der Gaming-Szene erzielt. Durch das Online-Spielkonzept können Gamer virtuell in Teams gegeneinander antreten. Um das kooperative Gameplay zu fördern, ermöglicht der bereitgestellte In-Game-Chat den Gamern, einfach und schnell mit anderen Spielern in Kontakt zu treten. Mit der steigenden Nutzerzahl kommt es jedoch in diesen Chats zunehmend zu Fällen von Cybermobbing, die bereits negative mediale Aufmerksamkeit erregt haben.
In dieser Arbeit wird die Implementierung eines automatisierten Echtzeit-Meldesystems (AEMS) füur das fiktive Game Studio RagePlayer® vorgestellt, das zur Prävention von Cybermobbing in In-Game-Chats entwickelt wurde. Das System basiert auf einer Sentimentalanalyse und verwendet ein KI-basiertes Klassifikationsmodell. Nachrichten, die gegen die Richtlinien von RagePlayer® verstoßen, werden automatisch gekennzeichnet und unleserlich dargestellt.
Take that, Perzeptron!
XOR ist eine logische Funktion, die zwei Eingaben x1 und x2 verarbeitet und das Ergebnis y liefert. Die Ausgabe ist wahr (1), wenn genau eine der Eingaben wahr (1) ist, andernfalls ist die Ausgabe falsch (0).
Problem
Ein einfaches Perzeptron kann nur linear separierbare Probleme lösen. Das bedeutet, dass es eine gerade Linie im Eingaberaum finden muss, um die Klassen zu trennen. Beim XOR-Problem ist dies unmöglich, weil die Punkte (0,1) und (1,0), die zu der Klasse 1 gehören, von den Punkten (0,0) und (1,1), die zu der Klasse 0 gehören, nicht durch eine gerade Linie getrennt werden können.
Ziel
Das XOR-Problem kann durch ein DNN gelöst werden, das mindestens eine versteckte Schicht enthält. Durch die Verwendung nichtlinearer Aktivierungsfunktionen wie Sigmoid, ReLU oder Tanh kann das Netzwerk eine nichtlineare Trennlinie lernen.
Lösung
XOR meets DNN meets LotteryTicketHypothesis
Einleitung
Das fiktive Game Studio RagePlayer® hat mit der Veröffentlichung ihres ersten Spiels ”Space Gladiators 4096“, ein futuristischer Third-Person-Shooter, einen beachtlichen Erfolg in der Gaming-Szene erzielt. Durch das Online-Spielkonzept können Gamer virtuell in Teams gegeneinander antreten. Um das kooperative Gameplay zu fördern, ermöglicht der bereitgestellte In-Game-Chat den Gamern, einfach und schnell mit anderen Spielern in Kontakt zu treten. Mit der steigenden Nutzerzahl kommt es jedoch in diesen Chats zunehmend zu Fällen von Cybermobbing, die bereits negative mediale Aufmerksamkeit erregt haben.
In dieser Arbeit wird die Implementierung eines automatisierten Echtzeit-Meldesystems (AEMS) füur das fiktive Game Studio RagePlayer® vorgestellt, das zur Prävention von Cybermobbing in In-Game-Chats entwickelt wurde. Das System basiert auf einer Sentimentalanalyse und verwendet ein KI-basiertes Klassifikationsmodell. Nachrichten, die gegen die Richtlinien von RagePlayer® verstoßen, werden automatisch gekennzeichnet und unleserlich dargestellt.
Kunde Personal / IU Study
Role Deep Learning
2024
2024 | Impressum | Datenschutzerklärung