Newsy · OpenAI
OpenAI dodaje do API opcję 12-godzinnego cache promptów
W Responses API można teraz przechowywać zapisany w cache początek promptu przez co najmniej 12 godzin zamiast domyślnych 30 minut. Zapis na 12 godzin kosztuje 2,5 raza więcej niż zwykłe tokeny wejściowe, a odczyt kosztuje tyle, ile zwykle kosztuje odczyt z cache.
20 października 2026 roku OpenAI dodało do Responses API 12-godzinny czas życia cache promptów, jak podaje dziennik zmian API. Opcja działa w modelach GPT-5.6 i nowszych. Programiści ustawiają prompt_cache_options.ttl na 12h dla całego zapytania albo podają ttl przy pojedynczym jawnym punkcie cache. Bez tych ustawień obowiązuje domyślne 30 minut. OpenAI Developers wskazuje jako zastosowanie stałych agentów, takich jak dots, którzy przez cały dzień korzystają z tych samych instrukcji, narzędzi i kontekstu.
Ceny różnią się tylko przy zapisie. Zapis na 30 minut kosztuje 1,25 stawki za tokeny wejściowe bez cache, a zapis na 12 godzin 2,5 tej stawki. Odczyt kosztuje 0,1 stawki w większości tych modeli i 0,05 w GPT-6.1 Sol, niezależnie od wybranego czasu. Dokumentacja zaznacza, że 12 godzin to minimum, a nie termin usunięcia danych, że opcja nie zmienia zasad przechowywania danych i że nie każde zapytanie musi trafić w cache. Starsze modele nadal używają osobnego ustawienia prompt_cache_retention.
Krótko potem Tibo (@thsottiaux) z OpenAI napisał na X, że zalogowani użytkownicy Codex i Work mają teraz cache przechowywany bez limitu czasu. Powrót do starej rozmowy lub wznowienie pracy po kilku godzinach nie wiąże się więc z żadną stratą, a trafienie w cache jest gwarantowane.
Źródła
- OpenAIOryginalne ogłoszenie
- X · @OpenAIDevsOmówienie
- X · @thsottiauxOmówienie
Nagłówek i streszczenie są nasze: napisane z pomocą AI na podstawie powyższych źródeł i automatycznie sprawdzone przed publikacją. Zobacz, jak korzystamy z AI.