OpenAI heeft nu de toegang tot de GPT-4 API opengesteld voor alle bestaande klanten. Nieuwe klanten zullen echter even iets langer moeten wachten tot zij toegang krijgen tot de API van het nieuwe AI-taalmodel. Eind deze maand is de verwachting dat ook zij toegang zullen krijgen.
Toegang tot de API vrijgegeven voor alle bestaande klanten
Na het uitbreiden van de toegang tot GPT-4 voor een grotere groep klanten in juni, biedt OpenAI nu de API-toegang aan voor alle bestaande klanten. In de komende weken zullen ook nieuwe klanten programmatische toegang krijgen tot het taalmodel.
Aanzienlijk krachtiger dan voorganger
In maart heeft OpenAI het Large Language Model (LLM) GPT-4 uitgebracht na twee jaar ontwikkeling. Dit model is aanzienlijk krachtiger dan zijn voorganger, GPT-3.5. Het GPT-4-model is verkrijgbaar in twee varianten: de 8k-variant, die tot 8.000 tokens kan verwerken, en de 32k-variant, die tot 32.000 tokens kan verwerken.
Tokenisatie en tekstverwerking
Taalmodellen gebruiken tokenisatie om tekst te verwerken en maken gebruik van statistische relaties tussen de woorden om de inhoud te begrijpen. Bij de lancering van GPT-4 gaf Greg Brockman, de president en mede-oprichter van OpenAI, aan dat ongeveer 32.000 tokens overeenkomen met 50 pagina’s tekst.
Voor een algemeen idee van tokenisatie kun je de interactieve tokenizer van OpenAI gebruiken, waarmee je een tekst kunt invoeren en het aantal tekens en tokens kunt zien.
Altijd op de hoogte blijven alle ontwikkelingen omtrent ChatGPT en andere AI-modellen? Schrijf je in voor de gratis nieuwsbrief:
Uitrol van GPT-4 varianten en vervanging van oudere modellen
OpenAI brengt eerst de 8k-variant van GPT-4 uit. Bij de aankondiging van GPT-4 werd vermeld dat de 32k-variant op dat moment niet goed werkte. In juni kondigde het bedrijf ook een 16k-model aan voor GPT-3.5 Turbo, samen met een nieuwe versie van GPT-4.
API-ondersteuning en vervanging van oudere modellen
OpenAI heeft in maart al de API’s voor ChatGPT en Whisper geopend. Hoewel de Chat Completions API is ontworpen voor interactieve communicatie, kan deze ook eenvoudige tekstquery’s verwerken. Daarom is het bedoeld als vervanging voor de eerder geïntroduceerde Completions API uit 2020.
Als onderdeel van de release van GPT-4 heeft OpenAI aangekondigd dat de toegang tot oudere modellen in januari 2024 zal worden stopgezet. De modellen ada, babbage, curie en davinci zullen elk een opvolger krijgen met het achtervoegsel “-002”, bijvoorbeeld ada-002. OpenAI zal gebruikers van oudere varianten automatisch overschakelen naar de nieuwere versie op 4 januari 2024.
Iedereen die oudere completiemodellen zoals text-davinci-003 gebruikt, moet handmatig upgraden naar gpt-3.5-turbo-instruct. In een blogpost over de release van GPT-4 worden de verouderde modellen en hun opvolgers vermeld. Ook de oudere embeddingmodellen worden als verouderd gemarkeerd, waarbij de opvolger text-embedding-ada-002 is. De Edits API en de bijbehorende modellen worden ook stopgezet, waarbij gpt-3.5-turbo vanaf januari 2024 de opvolger is.
Aanpasbare varianten en verfijning van taalmodellen
Aanpasbare varianten van zowel GPT-4 als GPT-3.5 zullen tegen het einde van het jaar beschikbaar zijn. De OpenAI LLM’s worden getraind met openbaar beschikbare gegevens van het internet. Bedrijven kunnen de taalmodellen verder verfijnen door aanvullende trainingsgegevens toe te voegen om aan hun specifieke behoeften te voldoen.
Overgang en ondersteuning voor gebruikers van oudere modellen
Gebruikers die modellen gebruiken voor fine-tuning die vanaf januari niet meer beschikbaar zijn, moeten de aanpassingen doen aan de vervangende modellen. OpenAI belooft ondersteuning te bieden bij de migratie, zoals vermeld in de blogpost.
Prijsstructuur van GPT-4 API
De API voor GPT-4 is aanzienlijk duurder dan die voor GPT-3.5 Turbo. Het momenteel beschikbare 8k-model kost $0,03 per 1000 invoertokens, wat tien keer de prijs is van de 16k-variant van GPT-3.5 Turbo, die op zijn beurt twee keer zo duur is als de 4k-variant van hetzelfde model.
Voor uitvoertokens is de prijs van GPT-4 $0,06, wat vijftien keer zo hoog is als die van GPT-3.5 Turbo 16k. Hoewel de 32k-variant van GPT-4 nog niet algemeen beschikbaar is, vermeldt OpenAI al prijzen die twee keer zo hoog zijn als die van de 8k-variant.
Altijd op de hoogte blijven alle ontwikkelingen omtrent ChatGPT en andere AI-modellen? Schrijf je in voor de gratis nieuwsbrief:
