Verwenden eigener API-Schlüssel in GitHub Modellen

Nach dem Motto „Bring Your Own Key“ kannst du deine eigenen API-Schlüssel für GitHub Models verwenden, um es Teams zu ermöglichen, deine bevorzugten Anbieter großer Sprachmodelle (Large Language Model, LLM) für Tools wie Prompts, Playground und Models in Actions zu nutzen. Weitere Informationen zu GitHub Models findest du unter Informationen zu GitHub Modellen.

Weitere Informationen zu Abrechnung und Preisgestaltung finden Sie unter Abrechnung von GitHub Modellen.

Warum solltest du deine eigenen API-Schlüssel nutzen?

Als Organisationsbesitzer stellst du möglicherweise bestimmte Anforderungen an Governance, Datensicherheit und Compliance. Durch das Einrichten deiner eigenen API-Schlüssel hast du folgende Vorteile:

•         **Governance und Compliance:** Du kannst LLM-Anbieter auswählen, die die Richtlinien und rechtlichen Anforderungen deiner Organisation erfüllen.
  

•         **Kostenverwaltung:** Du kannst vorhandene Zahlungsmethoden, Verträge, Gutschriften oder vereinbarte Tarife nutzen und eine Überschreitung der Nutzungsdauer vermeiden.
  

•         **Sichtbarkeit und Kontrolle:** Verwalten Sie, auf welche Modelle Ihr Team Zugriff hat, und überwachen Sie die Nutzung über die vorhandenen Dashboards und Abrechnungstools Ihres Anbieters.
  

•         **Flexibilität:** Du kannst benutzerdefinierte oder spezialisierte Modelle unterstützen, die deine Organisation bereits verwendet.
  

Einrichten eigener API-Schlüssel zum Hinzufügen benutzerdefinierter Modelle

Füge zunächst die betreffenden API-Schlüssel für die Organisation hinzu. Anschließend kannst du die benutzerdefinierten Modelle angeben oder aktivieren, die du den Benutzern zur Verfügung stellen möchtest.

Hinzufügen von API-Schlüsseln

1. Klicke in der rechten oberen Ecke von GitHub auf dein Profilbild und dann auf Your organizations.
2. Klicke neben der Organisation auf Einstellungen.
3. Klicke im Abschnitt „Code, planning, and automation“ der Randleiste auf das Dropdownmenü Models. Klicke dann auf Custom Models. Auf der Seite „Custom Models“ werden die API-Schlüssel und benutzerdefinierten Modelle angezeigt, die der Organisation hinzugefügt wurden.
4. Klicke auf Add API key.
5. Gib im Dialogfeld „Add the API key“ Details zu deinem Schlüssel an. Die Felder Name und API key sind obligatorisch.
6. Klicken Sie auf Speichern.

Aktivieren benutzerdefinierter Modelle

1. Klicke in der rechten oberen Ecke von GitHub auf dein Profilbild und dann auf Your organizations.
2. Klicke neben der Organisation auf Einstellungen.
3. Klicke im Abschnitt „Code, planning, and automation“ der Randleiste auf das Dropdownmenü Models. Klicke dann auf Development.
4. Wähle unter „Models permissions“ die Option All publishers aus, um Modelle zu aktiveren, die mit API-Schlüsseln hinzugefügt wurden.
   • Falls diese Option nicht verfügbar ist, musst du die Nutzung des Modells in deiner Organisation zulassen. Siehe Verwalten der Modellnutzung deines Teams.
5. Optional kannst du die Option Only select models auswählen, um eine benutzerdefinierte Liste der aktivierten oder deaktivierten Modelle zu erstellen. Auf diese Weise kannst du steuern, welche Modelle in deiner Organisation verfügbar sind.

Erstellen einer Liste der aktivierten oder deaktivierten Modelle

Wenn du steuern möchtest, welche Modelle in deiner Organisation verfügbar sind, führe folgende Schritte aus, um eine Liste der aktivierten oder deaktivierten Modelle zu erstellen:

1. Klicke in der rechten oberen Ecke von GitHub auf dein Profilbild und dann auf Your organizations.
2. Klicke neben der Organisation auf Einstellungen.
3. Klicke im Abschnitt „Code, planning, and automation“ der Randleiste auf das Dropdownmenü Models. Klicke dann auf Development.
4. Wähle unter „Models permissions“ die Option Only select models aus. Wähle anschließend in der Dropdownliste die Option Enabled list aus, um eine Liste der zugelassenen Modelle zu erstellen.
5. Optional kannst du in der Dropdownliste die Option Disabled list auswählen, wenn du eine Liste der blockierten Modelle erstellen möchtest.
6. Klicke oberhalb der Modelltabelle auf Modelle oder Herausgeber hinzufügen.
7. Wähle im Dialogfeld „Modelle und Herausgeber zur Freigabe auswählen“ die Modelle und Herausgeber aus, die du in deine Liste aufnehmen möchtest.
8. Klicke auf Update enabled list, um deine Änderungen zu speichern.

Nächste Schritte

Nachdem du deine benutzerdefinierten Modelle in GitHub Models aktiviert hast, fahre mit folgenden Themen fort:

• Experimentiere mit deinem benutzerdefinierten Modell im Playground. Siehe Experimenting mit KI-Modellen im Spielplatz.

• Speichern Sie Eingabeaufforderungen in GitHub, damit Sie diese iterieren, um sie zu verfeinern, und mit den Projektbeteiligten teilen können. Siehe Speichern von Prompts in GitHub-Repositorys.

• Starten deiner KI-Anwendung. Siehe In Produktion gehen.