Angesichts des zunehmenden wissenschaftlichen Interesses an der Nutzung, Weiterentwicklung und Anwendung von Künstlicher Intelligenz (KI) und großen Sprachmodellen (LLMs) initiierte HIDA 2024 eine Vortragsreihe mit monatlichen Lectures zu diesen Schwerpunkten.
Nicht erst seit dem Einsatz von ChatGPT steht die Nutzung, Entwicklung und Implementierung von Künstlicher Intelligenz (KI) und großen Sprachmodellen (LLMs) im Fokus der wissenschaftlichen Gemeinschaft. Die rasanten Fortschritte auf diesem Gebiet werfen zahlreiche Forschungsfragen auf und eröffnen neue Anwendungsfelder in unterschiedlichsten Disziplinen.
Um diesen Entwicklungen gerecht zu werden und den wissenschaftlichen Austausch zu fördern, organisierte HIDA im Jahr 2024 eine Vortragsreihe mit monatlichen Lectures zu diesen Themenbereichen. Renommierte Expert:innen aus Forschung und Praxis teilen ihre aktuellen Erkenntnisse und diskutieren die Chancen und Herausforderungen moderner KI-Technologien.
Noch einmal ansehen: Vergangene Lectures on AI and LLMs
Der Referent: Simon Ostermann
A Short Introduction to Efficient Natural Language Processing
Inhaltszusammenfassung:
Der Vortrag beleuchtet die Herausforderungen bei der Entwicklung effizienter Modelle unter begrenzten Daten- und Ressourcenbedingungen. Er thematisiert Strategien zur Maximierung von Daten- und Modelleffizienz, insbesondere bei großen, rechenintensiven Modellen, die oft auf englischen Daten basieren.
Diskutiert werden Techniken wie Vorfilterung, Online-Methoden, Datenanreicherung, Curriculum-Lernen sowie parametereffiziente Ansätze wie Adapter, Prompt-Tuning und Präfix-Tuning, um die Leistung ohne umfangreiche Datenanforderungen zu steigern.
Der Referent: Fredrik Heintz
TrustLLM - Towards Trustworthy and Factual Language Models
Inhaltszusammenfassung
In diesem Vortrag wird das EU-Projekt "TrustLLM" präsentiert, dessen zentrales Ziel die Entwicklung offener, verlässlicher und neutraler Large Language Models (LLMs) ist. Der Fokus liegt dabei zunächst auf den germanischen Sprachen. Dies schafft die Basis für eine fortschrittliche, offene Plattform, die modulare und erweiterbare europäische LLMs der nächsten Generation unterstützt.
Die Referentin: Isra Mekki
ChatGPT in Action: Enhancing Your Workflow
Inhaltszusammenfassung
Viele Nutzer verwenden ChatGPT, ohne die Möglichkeiten vollständig auszuschöpfen. Diese Lecture soll aufzeigen, wie man durch gezieltes Prompt Engineering das volle Potenzial von Anwendungen wie ChatGPT, die auf Large Language Models (LLMs) basieren, nutzen kann.
Das Event richtet sich sowohl an Einsteiger, die noch keine Erfahrungen mit ChatGPT haben, als auch an diejenigen, die sich über bewährte Strategien, mögliche Herausforderungen und Grenzen dieser Technologie informieren möchten.
Die Referentin: Lea Schönherr
Challenges and Threats in Generative AI: Exploits and Misuse
Inhaltszusammenfassung
In diesem Vortrag werden die Sicherheitsherausforderungen im Zusammenhang mit generativer KI genauer erläutert.
Diese beziehen sich auf zwei mögliche Kategorien: zum einen auf manipulierte Inputs und zum anderen auf die missbräuchliche Verwendung von computergenerierten Ergebnissen.
Die Referentin: Sahar Abdelnabi
On New Security and Safety Challenges Posed by LLMs and How to Evaluate Them
Inhaltszusammenfassung
Large Language Models finden bereits in vielen Bereichen Anwendung. Doch ihr Einsatz bringt auch neue Sicherheitsrisiken mit sich. Aufgrund ihrer dynamischen Natur sind LLMs beispielsweise schwieriger zu bewerten und zu kontrollieren.
In diesem Vortrag werden einige der Sicherheitsrisiken von LLMs beleuchtet
Der Referent: Steffen Albrecht
Contextualizing LLMs – What are the social and ethical implications?
Inhaltszusammenfassung
Im Mittelpunkt dieses Vortrags stehen die sozialen Auswirkungen der weit verbreiteten Nutzung großer Sprachmodelle. Steffen Albrecht erörtert, wie generative KI die öffentliche Debatte, die Verwaltung und die Kunst verändern könnte, und wie Politik und Gesellschaft diese Entwicklungen steuern können. Denn um das Potenzial und die Grenzen aktueller KI-Systeme zu erkennen und Wege zu ihrer Verbesserung zu finden, müssen wir über ihre technologischen Funktionen hinausblicken und den Kontext ihrer Entwicklung und Nutzung berücksichtigen.
Der Referent: Bert Heinrichs
Ethical Considerations on Hate Speech and AI
Inhaltszusammenfassung
In diesem Vortrag werden ethische Überlegungen zum Umgang mit Hate Speech präsentiert. Das Hauptaugenmerk wird darauf liegen, wie KI helfen kann, die Verbreitung von Hate Speech zu verhindern und welche Probleme damit einhergehen können. Dabei wird zwischen zwei Problemfeldern unterschieden: einerseits Hate Speech auf Social-Media-Plattformen und andererseits Hate Speech, die von LLMs erzeugt wird.
Während im erstgenannten Fall unbedachtes Eingreifen zu Zensur führen kann, besteht beim Zweitgenannten die Gefahr der Behinderung der Innovationskraft behindert wird. Es ist daher wichtig, überzeugende ethische Kompromisse zu identifizieren und Möglichkeiten zu entwickeln, diese technisch umzusetzen.
Der Referent: Jan Ebert
ChatGPT's Backgrounds: Exploring the World of Large Language Models
Inhaltszusammenfassung
In diesem Vortrag werden verschiedene Schlüsselaspekte des Trainings von LLMs ausführlich erläutert. Dazu gehören Diskussionen über die Architektur solcher Modelle, die Auswahl und das Feintuning von Trainingsdaten sowie die Herausforderungen und Lösungsansätze im Umgang mit großen Datensätzen und Rechenressourcen. Es werden auch aktuelle Forschungstrends und methodische Innovationen im Bereich des LLM-Trainings diskutiert.
Darüber hinaus werden während des Vortrags verschiedene exemplarische Anwendungen und Einsatzmöglichkeiten von LLMs vorgestellt. Dies umfasst Anwendungen in der natürlichen Sprachverarbeitung, der automatischen Textgenerierung, der Übersetzung, der Sentimentanalyse und vielem mehr. Dabei werden auch praktische Fallstudien und Erfolgsgeschichten aus Industrie und Forschung präsentiert, um die Vielseitigkeit und das Potenzial von LLMs zu veranschaulichen.
Ein wichtiger Teil des Vortrags ist der aktuelle Stand der Technologie und ein Ausblick in die Zukunft. Hierbei werden aktuelle Entwicklungen und Trends in der LLM-Forschung und -Anwendung beleuchtet, sowie potenzielle Herausforderungen und Chancen diskutiert, die sich in den kommenden Jahren ergeben könnten. Es werden auch mögliche Anwendungsgebiete jenseits des aktuellen Anwendungsspektrums betrachtet, um einen Blick auf zukünftige Entwicklungen und Innovationen im Bereich der Sprachtechnologie zu werfen.
Der Referent: Jörg Pohle
Ally or Adversary: Examining the Impact of Large Language Models on Academics and Academic Work
Inhaltszusammenfassung:
In diesem Vortrag werden die Auswirkungen von Large Language Models (LLMs) auf die Wissenschaft untersucht und vorgestellt. Es werden potenzielle Nutzen und Risiken für das wissenschaftliche System und den Beruf des Wissenschaftlers diskutiert. Ethische Fragen und die Rolle von LLMs bei akademischen Aufgaben werden anhand empirischer Daten beleuchtet. Darüber hinaus wird die sich wandelnde Rolle von Akademikern in der digitalen Welt erörtert, einschließlich der Datafizierung und Quantifizierung von Wissenschaftlern und ihren Institutionen sowie zukünftiger Herausforderungen.
