Når din betalende kunde ikke kan få det de betaler for
OpenAI har sat salget af deres dyreste abonnement på pause fordi for mange bruger systemet. Det er et advarselstegn for alle der bygger forretning på en andens infrastruktur.
OpenAI har lukket for nye Pro-abonnementer. Ikke fordi produktet er dårligt. Ikke fordi der er fejl i betalingssystemet. Men fordi for mange bruger det de har betalt for. Når jeg læser den nyhed tænker jeg på alle de websites jeg har bygget hvor kerneydelsen er afhængig af en ekstern leverandør. Og jeg kan kun konkludere at det her er præcis den situation ingen kunde fortjener at stå i.
Pro-abonnementet koster 200 dollar om måneden og giver adgang til OpenAIs mest avancerede model Astra. Folk har betalt fordi de har brug for præcis den kapacitet. Nu får de at vide at de må vente i kø mens OpenAI skaffer mere hardware. Det er ikke et teknisk problem der kan patches. Det er et løfte der ikke kan holdes fordi efterspørgslen overstiger kapaciteten. Og det sker midt i en periode hvor konkurrenterne leverer tilsvarende modeller uden ventetid.
Jeg har selv stået i situationer hvor en API-leverandør pludselig ændrede vilkår eller lukkede adgang. Forskellen er at det typisk sker i beta-versioner eller gratistjenester hvor man ved man tager en risiko. Her er vi oppe i et betalt produkt hvor OpenAI har haft måneder til at skalere infrastrukturen før de åbnede for det brede marked. At de ikke har gjort det indikerer enten manglende planlægning eller manglende evne til at følge med deres egen vækst.
For alle der bygger websites der bruger AI-tjenester er det her en påmindelse om at kapacitet ikke er garanteret bare fordi man betaler. Hvis jeg skal levere en søgefunktion eller en chatbot til en kunde skal jeg have en plan B. Enten en alternativ leverandør eller en måde at degradere funktionaliteten på hvis primærleverandøren ikke kan levere. Det er ikke sexet. Men det er forskellen mellem et website der virker og et website der lover noget det ikke kan holde.
Det interessante er at OpenAI ikke bare sænker hastigheden eller begrænser brugen for eksisterende kunder. De lukker helt for nye. Det betyder at de ikke engang kan garantere en dårligere version af servicen. Hvis jeg skulle sælge den beslutning til min kunde ville samtalen være kort. Og jeg ville stå tilbage med et spørgsmål om hvorfor vi overhovedet valgte en leverandør der ikke kunne skalere deres infrastruktur.
Når man bygger en forretning på en andens infrastruktur er der altid en risiko. Men når leverandøren er OpenAI med adgang til milliarder i funding burde man kunne forvente at de kunne købe nok servere til at matche efterspørgslen. At de ikke kan det fortæller mig at vi er i en fase hvor selv de største spillere ikke har styr på deres økonomi eller deres køreplan. Og det er ikke et fundament jeg vil bygge kritisk funktionalitet på uden et sikkerhedsnet.
Konklusionen er enkel. Hvis du bygger noget hvor AI er kernefunktionen skal du have en leverandør du kan stole på. Og hvis du bruger OpenAI skal du have en plan for hvad der sker den dag de ikke kan levere. For den dag er tydeligvis ikke hypotetisk mere. Den er her.
af Kasper Bach · Studio IV