Ohne Large Language Models keine generative KI.
Foto: A. Solano – shutterstock.com
Seit der Veröffentlichung von durch die Decke. Die Technologie wird dazu genutzt, Tasks zu automatisieren, bei Kreativaufgaben zu unterstützen oder auch um wie ChatGPT oder Gemini liefern im Februar 2023 gewinnen , das mit Daten-Inputs und -Outputs trainiert wird. Der zugrundeliegende Text ist dabei häufig unstrukturiert und das Modell nutzt Self-Supervised- oder Semi-Supervised-. Diejenige Antwortmöglichkeit, die auf Grundlage der vorhandenen beziehungsweise historischen Daten die wahrscheinlichste ist, wird das Large Language Model als Output wählen.
Dabei gilt allerdings der Grundsatz “Junk in, Junk out”. Anders ausgedrückt: Füttern Sie ein großes Sprachmodell mit “. , Doktorand am Center for Information Technology Policy der Princeton University unterstreicht: “Kommen Bias-behaftete Sprachmodelle etwa zum Beispiel verwendet ein LLM und aufregend zugleich.”
In der Regel sind große Sprachmodelle mit riesigen Datenmengen vortrainiert. Allerdings können LLMs mit Hilfe von , Machine-Learning-Spezialist und Assistenzprofessor am MIT, abstrahiert: “Beim Prompt Engineering geht es darum, zu entscheiden, womit wir den Algorithmus füttern, damit er das tut, was wir wollen. Ein Large Language Model plappert einfach ohne jeglichen Kontext und ist in gewissem Sinne bereits ein Chatbot.”
Large Language Models und der Datenschutz
Italien hatte Anfang 2023 als erstes westliches Land den Zugang zu ChatGPT aufgrund von Datenschutzbedenken nach einem Data Breach , Datenschutzbeauftragte beim Cybersicherheitsunternehmen Surfshark, und fügt hinzu: “Diese potenziellen Datenschutzprobleme zu beheben, ist essenziell, um eine verantwortungsvolle und ethisch vertretbare Datennutzung zu gewährleisten, Vertrauen zu fördern und die Privatsphäre der Nutzer bei KI-Interaktionen zu schützen.”
Die Datenschutzexpertin weiß, wovon sie spricht, hat sie doch die Datenerhebungspraktiken von ChatGPT analysiert und eine Liste mit potenziellen Schwachstellen in diesem Bereich erstellt. Demnach:
sammle OpenAI möglicherweise ohne rechtliche Grundlage personenbezogene Daten in großem Umfang, um seine Sprachmodelle zu trainieren.
habe das Unternehmen nicht alle betroffenen Dateneigentümer darüber unterrichtet, wie und wofür ihre Informationen verwendet werden.
fehlten wirksame Tools zur Altersverifizierung, um den Jugendschutz zu gewährleisten.
Neben den Problemstellungen im Bereich Datenschutz bereitet Experten in Zusammenhang mit Large Language Models auch das Thema Datensicherheit .
Die US-Regierung hat im Oktober 2022 einen Entwurf für eine “, die sich mit Generative-AI-Lösungen befassen soll.
Die Europäische Union hat ihre eigene Gesetzgebung zur KI-Regulierung verabschiedet – den am häufigsten “out of the box” eingesetzt – als textbasierte Web-Chat-Schnittstellen. Dazu werden sie in Suchmaschinen wie Google und Bing integriert und für die automatische Online-Kundenbetreuung eingesetzt. Wie bereits erwähnt, können Unternehmen ihre eigenen Datensätze einspeisen, um die Chatbots besser auf ihr jeweiliges Unternehmen abzustimmen. Allerdings kann die Genauigkeit dabei aufgrund von bereits eingespeisten Datenmengen leiden. Je nach Größe und Einsatzzweck kann es mehrere Millionen Dollar kosten, ein großes Sprachmodell für bestimmte Anwendungsfälle zu trainieren.
“Wir beobachten immer häufiger, dass kleine Modelle, die man länger auf mehr Daten trainiert, das können, was große Modelle früher konnten”, resümierte (PDF) und wird nach Meinung von Experten künftig wesentlich dazu beitragen, die Trainings- und Computing-Kosten für LLMs zu reduzieren. So gehen etwa Forscher von Meta bei unserer Schwesterpublikation Computerworld.com erschienen.
SOCIAL SHARE CARD GENERATOR