This talk argues that advances in generative AI are compatible with a pro-human direction of future technology. This means, in particular, production technologies that increase the contribution of workers to productivity, and communication technologies that boost human agency and democratic participation. However, we are currently on a path leading in the opposite direction—anti-worker production technologies and anti-democratic communication technologies. This is both because of distorted incentives and priorities within the tech industry and also because of some of the architectural features of leading generative AI models. The talk concludes with some policy suggestions to help engineer a course correction towards pro-human AI.

In dieser einführenden Veranstaltung erhalten die Teilnehmer einen Überblick über das Gebiet des Natural Language Processing (NLP). NLP, welches an der Schnittstelle von Informatik und Linguistik angesiedelt ist, ermöglicht es Maschinen, menschliche Sprache zu „verstehen“ und zu interpretieren. Dies bildet die Grundlage für eine Vielzahl moderner Anwendungen, reichend von Textanalyse über maschinelles Übersetzen bis hin zu ChatGPT. Die Veranstaltung beginnt mit einer Erläuterung der Definition und der Ziele des NLP, woraufhin eine Diskussion über grundlegende Konzepte wie Tokenisierung, Stemming und Part-of-Speech-Tagging folgt. Anschließend werden die Teilnehmer in klassische sowie aktuelle Methoden der Textrepräsentation und des Feature Engineerings eingeführt, einschließlich Techniken wie Bag of Words und Word Embeddings. Im weiteren Verlauf der Veranstaltung werden grundlegende NLP-Modelle und Algorithmen vorgestellt, darunter Parsing und einfache Machine Learning Methoden. Darüber hinaus wird der Vortrag die Teilnehmer in die Welt des Deep Learning einführen, mit einem besonderen Fokus auf den Ideen hinter den Transformer-Modellen für BERT und GPT. Zum Abschluss wird eine Diskussion über aktuelle Herausforderungen und zukünftige Richtungen im NLP geführt.