Η Anthropic, μια κορυφαία νεοσύστατη εταιρεία τεχνητής νοημοσύνης, ανακοίνωσε σήμερα ότι το δημοφιλές Claude Sonnet 4 LLM υποστηρίζει πλέον έως και 1 εκατομμύριο διακριτικά περιβάλλοντος. Μετά το Google Gemini, η Anthropic είναι πλέον ο δεύτερος σημαντικός πάροχος μοντέλων που προσφέρει 1 εκατομμύριο διακριτικά περιβάλλοντος.
Προηγουμένως, το API Claude Sonnet 4 υποστήριζε μόνο 200.000 διακριτικά περιβάλλοντος. Αυτή η πενταπλάσια αύξηση θα επιτρέψει στους προγραμματιστές να στέλνουν ολόκληρες βάσεις κώδικα που αποτελούνται από πάνω από 75.000 γραμμές κώδικα σε ένα μόνο αίτημα.
Η υποστήριξη εκτεταμένου περιβάλλοντος βρίσκεται πλέον σε δημόσια beta έκδοση στο Anthropic API και μέσω του Amazon Bedrock, ενώ η διαθεσιμότητα στο Vertex AI του Google Cloud θα είναι σύντομα διαθέσιμη. Ωστόσο, η υποστήριξη μακροχρόνιου περιβάλλοντος περιορίζεται προς το παρόν σε προγραμματιστές Tier 4 με προσαρμοσμένα όρια ρυθμού. Η Anthropic σημείωσε ότι θα επεκτείνει την πρόσβαση σε περισσότερους προγραμματιστές τις επόμενες εβδομάδες.
Δεδομένου ότι τα μεγαλύτερα παράθυρα token απαιτούν μεγαλύτερη υπολογιστική ισχύ, η Anthropic εισάγει ειδικές τιμές. Για προτροπές κάτω των 200.000 tokens, το Sonnet 4 θα κοστίζει 3 δολάρια ανά εκατομμύριο tokens εισόδου και 15 δολάρια ανά εκατομμύριο tokens εξόδου. Για προτροπές που υπερβαίνουν τις 200.000 tokens, το κόστος θα είναι 6 δολάρια ανά εκατομμύριο tokens εισόδου και 22,50 δολάρια ανά εκατομμύριο tokens εξόδου.
Οι προγραμματιστές μπορούν να μειώσουν το κόστος χρησιμοποιώντας άμεση προσωρινή αποθήκευση και μαζική επεξεργασία. Για παράδειγμα, η μαζική επεξεργασία μπορεί να προσφέρει έκπτωση 50% στην τιμολόγηση του παραθύρου περιβάλλοντος 1 εκατομμυρίου.
Κατά τη διάρκεια μιας πρόσφατης συνεδρίας AMA στο Reddit , οι επικεφαλής της OpenAI συζήτησαν την υποστήριξη ενός μεγάλου παραθύρου περιβάλλοντος για τα μοντέλα τους. Ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, ανέφερε ότι η OpenAI δεν έχει δει σημαντική ζήτηση για μεγάλα μήκη περιβάλλοντος από τους χρήστες της, αλλά είναι ανοιχτή στο να την υποστηρίξει εάν υπάρχει επαρκές ενδιαφέρον. Δεδομένου ότι έχουν περιορισμούς υπολογιστικής ισχύος, θέλουν να επικεντρωθούν σε άλλες προτεραιότητες.
Η Michelle Pokrass από την ομάδα OpenAI έγραψε ότι θα ήθελαν να προσφέρουν μεγαλύτερο περιεχόμενο, έως και 1 εκατομμύριο tokens στο GPT-5, ειδικά για περιπτώσεις χρήσης API, αλλά λόγω της υψηλής ζήτησης για GPU, δεν το έκαναν.
Η υποστήριξη 1M context της Anthropic την θέτει σε άμεσο ανταγωνισμό με την Google Gemini για δυνατότητες long context, ασκώντας πίεση στην OpenAI να επανεξετάσει το χρονοδιάγραμμά της.
