Gebruikers gratis Copilot-varianten kunnen geen model meer kiezen

Dit meldt Neowin. Gebruikers van Copilot Free en Student kunenn door de wijziging niet langer bewust kiezen voor een specifiek model van OpenAI, Anthropic, Google of Microsoft. Volgens GitHub selecteert Copilot Auto dynamisch het meest geschikte model voor elke aanvraag.

Gebruikers van de Free- en Studentplannen behouden wel toegang tot modellen uit verschillende families, al blijft de beschikbare selectie afhankelijk van de beperkingen die aan elk plan zijn verbonden. GitHub benadrukt dat de beschikbaarheid van modellen in de loop der tijd kan veranderen.

Op basis van complexiteit

GitHub meldt dat Copilot Auto de complexiteit van een verzoek beoordeelt, samen met realtime-informatie over de status en beschikbaarheid van modellen. Eenvoudige prompts kunnen worden doorgestuurd naar snellere en goedkopere modellen, terwijl complexere codeertaken mogelijk naar duurdere redeneermodellen worden gestuurd.

Volgens GitHub zou deze aanpak de kans op rate limiting, vertraging en mislukte verzoeken moeten verkleinen. Auto selecteert doorgaans één model bij natuurlijke grenzen voor het cachen van prompts, in plaats van herhaaldelijk van model te wisselen tijdens een sessie. Uit onderzoek van GitHub blijkt dat wijzigingen mid-sessie de kosten verhoogden, zonder voldoende verbetering in de outputkwaliteit op te leveren.

Gebruikers kunnen nog wel nagaan welk model een antwoord heeft gegenereerd. In Copilot Chat verschijnt deze informatie bij het hoveren over een antwoord, terwijl Copilot CLI en de Copilot cloud agent het geselecteerde model samen met de uitvoer tonen. Auto is beschikbaar in Copilot Chat, Copilot CLI en de cloud agent, waarbij de exacte implementatie en releasestatus kunnen verschillen per ondersteunde ontwikkelomgeving.