Lecture Series on AI and Large Language Models

A Short Introduction to Efficient Natural Language Processing

Inhaltszusammenfassung:

Der Vortrag beleuchtet die Herausforderungen bei der Entwicklung effizienter Modelle unter begrenzten Daten- und Ressourcenbedingungen. Er thematisiert Strategien zur Maximierung von Daten- und Modelleffizienz, insbesondere bei großen, rechenintensiven Modellen, die oft auf englischen Daten basieren.

Diskutiert werden Techniken wie Vorfilterung, Online-Methoden, Datenanreicherung, Curriculum-Lernen sowie parametereffiziente Ansätze wie Adapter, Prompt-Tuning und Präfix-Tuning, um die Leistung ohne umfangreiche Datenanforderungen zu steigern.

TrustLLM - Towards Trustworthy and Factual Language Models

Inhaltszusammenfassung

In diesem Vortrag wird das EU-Projekt "TrustLLM" präsentiert, dessen zentrales Ziel die Entwicklung offener, verlässlicher und neutraler Large Language Models (LLMs) ist. Der Fokus liegt dabei zunächst auf den germanischen Sprachen. Dies schafft die Basis für eine fortschrittliche, offene Plattform, die modulare und erweiterbare europäische LLMs der nächsten Generation unterstützt.

ChatGPT in Action: Enhancing Your Workflow

Inhaltszusammenfassung

Viele Nutzer verwenden ChatGPT, ohne die Möglichkeiten vollständig auszuschöpfen. Diese Lecture soll aufzeigen, wie man durch gezieltes Prompt Engineering das volle Potenzial von Anwendungen wie ChatGPT, die auf Large Language Models (LLMs) basieren, nutzen kann.

Das Event richtet sich sowohl an Einsteiger, die noch keine Erfahrungen mit ChatGPT haben, als auch an diejenigen, die sich über bewährte Strategien, mögliche Herausforderungen und Grenzen dieser Technologie informieren möchten.

Challenges and Threats in Generative AI: Exploits and Misuse

Inhaltszusammenfassung

In diesem Vortrag werden die Sicherheitsherausforderungen im Zusammenhang mit generativer KI genauer erläutert.

Diese beziehen sich auf zwei mögliche Kategorien: zum einen auf manipulierte Inputs und zum anderen auf die missbräuchliche Verwendung von computergenerierten Ergebnissen.

On New Security and Safety Challenges Posed by LLMs and How to Evaluate Them

Inhaltszusammenfassung

Large Language Models finden bereits in vielen Bereichen Anwendung. Doch ihr Einsatz bringt auch neue Sicherheitsrisiken mit sich. Aufgrund ihrer dynamischen Natur sind LLMs beispielsweise schwieriger zu bewerten und zu kontrollieren.

In diesem Vortrag werden einige der Sicherheitsrisiken von LLMs beleuchtet

Contextualizing LLMs – What are the social and ethical implications?

Inhaltszusammenfassung

Im Mittelpunkt dieses Vortrags stehen die sozialen Auswirkungen der weit verbreiteten Nutzung großer Sprachmodelle. Steffen Albrecht erörtert, wie generative KI die öffentliche Debatte, die Verwaltung und die Kunst verändern könnte, und wie Politik und Gesellschaft diese Entwicklungen steuern können. Denn um das Potenzial und die Grenzen aktueller KI-Systeme zu erkennen und Wege zu ihrer Verbesserung zu finden, müssen wir über ihre technologischen Funktionen hinausblicken und den Kontext ihrer Entwicklung und Nutzung berücksichtigen.

Ethical Considerations on Hate Speech and AI

Inhaltszusammenfassung

In diesem Vortrag werden ethische Überlegungen zum Umgang mit Hate Speech präsentiert. Das Hauptaugenmerk wird darauf liegen, wie KI helfen kann, die Verbreitung von Hate Speech zu verhindern und welche Probleme damit einhergehen können. Dabei wird zwischen zwei Problemfeldern unterschieden: einerseits Hate Speech auf Social-Media-Plattformen und andererseits Hate Speech, die von LLMs erzeugt wird.

Während im erstgenannten Fall unbedachtes Eingreifen zu Zensur führen kann, besteht beim Zweitgenannten die Gefahr der Behinderung der Innovationskraft behindert wird. Es ist daher wichtig, überzeugende ethische Kompromisse zu identifizieren und Möglichkeiten zu entwickeln, diese technisch umzusetzen.

ChatGPT's Backgrounds: Exploring the World of Large Language Models

Inhaltszusammenfassung

In diesem Vortrag werden verschiedene Schlüsselaspekte des Trainings von LLMs ausführlich erläutert. Dazu gehören Diskussionen über die Architektur solcher Modelle, die Auswahl und das Feintuning von Trainingsdaten sowie die Herausforderungen und Lösungsansätze im Umgang mit großen Datensätzen und Rechenressourcen. Es werden auch aktuelle Forschungstrends und methodische Innovationen im Bereich des LLM-Trainings diskutiert.

Darüber hinaus werden während des Vortrags verschiedene exemplarische Anwendungen und Einsatzmöglichkeiten von LLMs vorgestellt. Dies umfasst Anwendungen in der natürlichen Sprachverarbeitung, der automatischen Textgenerierung, der Übersetzung, der Sentimentanalyse und vielem mehr. Dabei werden auch praktische Fallstudien und Erfolgsgeschichten aus Industrie und Forschung präsentiert, um die Vielseitigkeit und das Potenzial von LLMs zu veranschaulichen.

Ein wichtiger Teil des Vortrags ist der aktuelle Stand der Technologie und ein Ausblick in die Zukunft. Hierbei werden aktuelle Entwicklungen und Trends in der LLM-Forschung und -Anwendung beleuchtet, sowie potenzielle Herausforderungen und Chancen diskutiert, die sich in den kommenden Jahren ergeben könnten. Es werden auch mögliche Anwendungsgebiete jenseits des aktuellen Anwendungsspektrums betrachtet, um einen Blick auf zukünftige Entwicklungen und Innovationen im Bereich der Sprachtechnologie zu werfen.

Ally or Adversary: Examining the Impact of Large Language Models on Academics and Academic Work

Inhaltszusammenfassung:

In diesem Vortrag werden die Auswirkungen von Large Language Models (LLMs) auf die Wissenschaft untersucht und vorgestellt. Es werden potenzielle Nutzen und Risiken für das wissenschaftliche System und den Beruf des Wissenschaftlers diskutiert. Ethische Fragen und die Rolle von LLMs bei akademischen Aufgaben werden anhand empirischer Daten beleuchtet. Darüber hinaus wird die sich wandelnde Rolle von Akademikern in der digitalen Welt erörtert, einschließlich der Datafizierung und Quantifizierung von Wissenschaftlern und ihren Institutionen sowie zukünftiger Herausforderungen.