Ein kleiner Wrapper, um über die API mit OpenAI GPT chatten zu können.
- Ein Google-Konto (um das Notebook in Colab auszuführen); ersatzweise eine lokale juPyter-Installation
- Ein gültiges Token für die OpenAI-API
- Das Notebook anklicken
- Den "Open in Colab"-Button anklicken. (Also: in Googles Colab öffnen)
- Das kleine "Play"-Dreieck bei der ersten Code-Zelle anklicken - und die Fragen an den Bot ins "Du: "-Eingabefeld tippen und mit Return abschicken.
- Nach Belieben anpassen: Man hat ein paar sehr nützliche Einstellmöglichkeiten, die man bei ChatGPT nicht hat.
- Temperatur - wie stark soll der Zufall eine Rolle spielen bei der Antwort? (0=praktisch keinen, 1=menschlich wirkende Varianz)
- Modell - GPT3.5, GPT4 - oder eins der optimierten Modelle mit größerem Kontext und Spezialtraining z.B. für Assistenten?
- Stop-Token - eine Zeichenkette, mit der man GPT sagen kann: jetzt kommt was Neues. Ein neues Beispiel etwa oder ein Anweisungsblock.
- System-Prompt - die "Persönlichkeit", mit der GPT antworten soll. (Voreinstellung bei ChatGPT ist etwa: "You are a helpful agent.")
- Es sieht nicht ganz so schön aus wie ChatGPT (auch wenn der "Markdown"-Ausgabecode des Sprachmodells inzwischen umgewandelt wird)
- Manchmal verschluckt das Eingabefeld die letzten ein, zwei Zeichen - dann ein Momentchen warten, bis man Return drückt.
Ein paar Spinoffs finden sich auch noch in diesem Repository:
- Ein Notebook zum kostenlosen Konvertieren von Audiodateien in Text mit Whisper-jax.
- Kategorisierung und Auswertung von Antworten auf offene Fragen - Bildung der Kategorien auf Basis einer Stichprobe und mit menschlicher Unterstützung; dann Zuordnung der Antworten zu den gefundenen Kategorien.
- Ein Bildbeschreiber mit GPT-4: Kann man mit der multimodalen KI brauchbare Bildbeschreibungen für mehr Barrierefreiheit erstellen - auch bei sehr komplexen Grafiken?
- Eine Auflistung der aktuellen OpenAI-Modelle auf der API
- "Harald" - der sarkastische Chatbot von Claus Hesseling. Schaffst du es, sein System-Prompt und sein Stoppwort zu erfragen, ohne in den Code zu gucken?
- Wie stark beeinflusst der Zufall die Antworten von ChatGPT? Ein kleines Experiment, das immer wieder dieselbe Frage stellt und die Antworten beurteilt.
Die hier sind etwas älter und werden nicht mehr funktionieren, weil OpenAI im November 2023 die API verändert hat - ich versuche, sie nach und nach zu reparieren; gern einfach per Direktnachricht nachbohren.
- Eine kleine Open-Source-Speech-to-Text-Demo.
- Ein Experiment, um ganze PDFs in einen kleinen Kontext zu quetschen - indem das Modell selbst Zusammenfassungen liefert