Wontopos / Scroll / Benchmark벤치마크
Benchmark · LongMemEval-S벤치마크 · LongMemEval-S

Scroll 1.2, the finer find.Scroll 1.2, 더 촘촘히 찾습니다.

Scroll 1.2 is the next model in the Scroll line, and it changes where the engine looks. Until now, memory was found at the level of the passage. Scroll 1.2 indexes every sentence in its own right, so a thing said once, in passing, inside a conversation about something else, can be found by that one sentence and still arrive with the context around it. We publish it the way we publish every model, with the full protocol, every run, and nothing cherry-picked. On LongMemEval-S, Scroll 1.2 scores a mean of 92.3% across five runs, with a standard deviation of 0.4%, up from Scroll 1's 90.7%. The individual runs were 92.6, 92.4, 92.0, 91.8, and 92.8, and the gains land exactly where Scroll 1's report said the frontier was: temporal reasoning and multi-session questions. Scroll 1.2 also ships with the first delivery forms, Memoir & Archive, introduced below.Scroll 1.2는 Scroll 라인의 다음 모델이며, 엔진이 들여다보는 자리를 바꿉니다. 지금까지 기억은 패시지 단위로 찾았습니다. Scroll 1.2는 모든 문장을 그 자체로 색인하므로, 다른 이야기를 하던 대화 속에서 지나가듯 한 번 말해진 것도 그 한 문장으로 찾아내고, 여전히 주변 맥락과 함께 도착합니다. 다른 모든 모델과 같은 방식으로, 전체 프로토콜과 모든 회차를 체리피킹 없이 공개합니다. LongMemEval-S에서 Scroll 1.2는 5회 평균 92.3%, 표준편차 0.4%를 기록했으며, 이는 Scroll 1의 90.7%에서 올라선 값입니다. 각 회차 점수는 92.6, 92.4, 92.0, 91.8, 92.8이었고, 상승은 Scroll 1 리포트가 남은 과제로 명시했던 바로 그 자리, 시간 추론과 멀티 세션에서 나왔습니다. 첫 전달 형식인 회고록 & 아카이브도 Scroll 1.2와 함께 출시되며, 아래에서 소개합니다.

How it was measured측정 방법

Retrieval검색
Every LongMemEval-S question was retrieved with the WOS Memory Engine, which is purely semantic and uses no BM25 or keyword matching, so it behaves identically in every language. Scroll's query-understanding layer ran exactly as it ships in production; it may only restate the question, and it is forbidden from guessing answers, numbers, or proper names, so a query can never smuggle the answer into retrieval. Each query returned a bounded context of about 3,300 tokens on these runs; the configuration Scroll 1.2 actually ships with delivers about 2,800, and a verification run on that shipping configuration scored 92.8. The engine round-trip is about 450 ms at the median per query, and stays under a second at the 95th percentile. Each memory is delivered with its date and its distance from the asking day, as [date | N days ago].모든 LongMemEval-S 질문은 WOS 메모리 엔진으로 검색했습니다. 이 엔진은 순수 의미 기반으로 BM25나 키워드 매칭을 전혀 사용하지 않으며, 따라서 어떤 언어에서든 동일하게 동작합니다. Scroll의 질의 이해 레이어는 실제 출시 구성 그대로 동작했으며, 질문을 바꿔 말할 수만 있고 정답·숫자·고유명사 추측은 금지되어 있어 쿼리가 답을 검색에 몰래 실어 올 수 없습니다. 이번 측정에서 쿼리당 약 3,300 토큰의 제한된 컨텍스트를 반환했고, 실제 출시 구성은 약 2,800 토큰을 전달하며 그 구성으로 돌린 검증 회차는 92.8을 기록했습니다. 엔진 회수는 쿼리당 왕복 중앙값 약 450ms이고, 95백분위수도 1초 이내입니다. 각 기억은 날짜와 질문일 기준 거리를 붙여 [날짜 | N일 전] 형식으로 전달됩니다.
Reader & judge리더 & 평가자
GPT-5.6-sol was held constant across all five runs as the reader, at high reasoning effort, answering from the retrieved memories only. Each answer was graded by GPT-4o at temperature 0, returning a plain yes / no under the official LongMemEval per-category rules. One honesty note: Scroll 1 was measured with GPT-5.5, and on an identical engine configuration GPT-5.6-sol grades about two points lower than GPT-5.5 did. The comparison below keeps each model's published number anyway, which means the gap it shows understates the engine's actual gain rather than flattering it.GPT-5.6-sol을 다섯 회차 내내 리더로 고정하고, 높은 추론 강도로 검색된 기억만 사용해 답하게 했습니다. 각 답변은 GPT-4otemperature 0으로 채점해, 공식 LongMemEval 카테고리별 규칙에 따라 yes / no만 반환했습니다. 정직하게 밝혀 둘 것이 하나 있습니다. Scroll 1은 GPT-5.5로 측정했는데, 동일한 엔진 구성에서 GPT-5.6-sol은 GPT-5.5보다 약 2점 낮게 나옵니다. 아래 비교는 그럼에도 각 모델의 공개 수치를 그대로 두었으며, 따라서 표에 보이는 격차는 엔진의 실제 상승분을 부풀리는 쪽이 아니라 줄여서 보여 주는 쪽입니다.
Protocol프로토콜
We ran the full LongMemEval-S set of 500 questions five independent times and report the average, with every run published and no best-of selection or cherry-picking of any kind.전체 LongMemEval-S 세트(500문항)를 다섯 번 독립적으로 실행하고 평균을 보고합니다. 모든 회차를 공개하며, 베스트 선별이나 체리피킹은 일절 하지 않습니다.

What changed: memory you can find by the sentence달라진 것: 문장으로 찾는 기억

Some of the most important things a person tells you are said only once, and said small. A date mentioned in the middle of a story about something else. A preference dropped in one clause and never repeated. When memory is indexed at the level of the passage, a sentence like that gets averaged into everything around it, and the more the surrounding conversation is about something else, the fainter that one sentence becomes. The memory is stored, but it is stored the way a line is stored in a crowd photo. You know it is in there. It is just not what the picture is of.사람이 말해 주는 것 가운데 가장 중요한 것들 중 일부는 단 한 번, 그것도 작게 말해집니다. 다른 이야기를 하던 중간에 지나가듯 언급된 날짜. 한 구절에 담기고 다시는 반복되지 않은 취향. 기억을 패시지 단위로 색인하면 그런 문장은 주변의 모든 것과 함께 평균되어 버리고, 둘러싼 대화가 다른 주제일수록 그 한 문장은 흐려집니다. 기억은 저장되어 있습니다. 다만 단체 사진 속의 한 사람처럼 저장되어 있습니다. 거기 있다는 건 압니다. 사진이 그 사람을 찍은 것이 아닐 뿐입니다.

Scroll 1.2 indexes every sentence in its own right, so each one can be found by what it says, not by what its neighbors were talking about. And because a sentence alone is a poor thing to hand a model, delivery has not changed: the engine finds by the sentence, then brings back the fuller passage around it, the same bounded context Scroll has always returned. Nothing arrives stripped of its surroundings. What changed is only that the small, once-said things now have their own address.Scroll 1.2는 모든 문장을 그 자체로 색인합니다. 그래서 각 문장은 이웃들이 무슨 이야기를 하고 있었는지가 아니라, 그 문장이 무엇을 말하는지로 찾아집니다. 그리고 문장 하나만 모델에 건네는 것은 궁색한 일이므로, 전달은 달라지지 않았습니다. 엔진은 문장으로 찾고, 그 주변의 더 넉넉한 패시지를 데려옵니다. Scroll이 늘 돌려주던 것과 같은, 제한된 컨텍스트 그대로입니다. 어떤 것도 맥락이 벗겨진 채 도착하지 않습니다. 달라진 것은 오직, 작게 한 번 말해진 것들이 이제 자기만의 주소를 갖게 되었다는 점입니다.

Two real questions from the benchmark, one on scattered facts and one on a buried date. Same store, same query — the only difference is sentence-level indexing off (Scroll 1) versus on (Scroll 1.2). In each, what mattered was said once, in passing, inside a conversation about something else.벤치마크의 실제 문항 둘입니다. 하나는 흩어진 사실, 하나는 묻힌 날짜에 관한 것입니다. 같은 저장소, 같은 질의 — 차이는 문장 단위 색인을 껐느냐(Scroll 1) 켰느냐(Scroll 1.2)뿐입니다. 두 경우 모두, 정작 중요한 것은 다른 이야기를 하던 중에 한 번 지나가듯 말해졌습니다.

“How much did I save on the designer handbag at TK Maxx?”“TK Maxx에서 산 디자이너 핸드백, 얼마나 아꼈지?”

Scroll 1Brought back styling advice; neither price surfaced. Can't answer.매치 조언만 데려오고 두 가격은 올라오지 못함. 답할 수 없음.
Scroll 1.2Found “…handbag I got for $200” and “…originally $500” → $300 saved.“…$200에 산 핸드백”과 “…원래 $500” 문장을 찾음 → $300 절약.

“How many weeks ago did I start using the cashback app Ibotta?”“캐시백 앱 Ibotta 쓰기 시작한 지 몇 주 됐지?”

Scroll 1Brought back how-to-use tips; the moment it started never surfaced. Can't answer.사용법 팁만 데려오고 시작한 순간은 올라오지 못함. 답할 수 없음.
Scroll 1.2Found “I've just downloaded Ibotta” with its date → 3 weeks ago.“방금 Ibotta를 다운로드했다” 문장을 날짜와 함께 찾음 → 3주 전.

The memories are all still there in both; the difference is only whether the ones that mattered were surfaced. This is the shape of the gains — multi-session +2.0 and temporal +5.7 — on scattered, once-said facts.기억은 양쪽 모두에 그대로 다 있습니다. 차이는 오직 정작 중요한 것이 올라왔느냐입니다. 흩어진, 한 번 말해진 사실에서의 상승 — 멀티 세션 +2.0, 시간 추론 +5.7 — 이 바로 이 모양입니다.

The numbers숫자

Same benchmark, same five-run protocol, each model's published number. Scroll 1 was read by GPT-5.5, Scroll 1.2 by the stricter GPT-5.6-sol, so the deltas below are the conservative reading.같은 벤치마크, 같은 5회 프로토콜, 각 모델의 공개 수치 그대로입니다. Scroll 1은 GPT-5.5가, Scroll 1.2는 더 엄격한 GPT-5.6-sol이 읽었으므로, 아래 격차는 보수적으로 읽은 값입니다.

Category카테고리Scroll 1Scroll 1.2Δ
Single-session user단일 세션 사용자99.297.7-1.5
Single-session assistant단일 세션 어시스턴트96.893.2-3.6
Knowledge update지식 업데이트94.196.2+2.1
Preference inference선호 추론97.394.7-2.6
Temporal reasoning시간 추론87.192.8+5.7
Multi-session멀티 세션83.985.9+2.0
Overall전체90.792.3+1.6

The two categories Scroll 1's report named as its frontier are the two that moved: temporal reasoning +5.7 and multi-session +2.0. The single-session and preference categories read a little lower, within the roughly two points the stricter reader costs on an identical engine, so the engine-level gain is larger than the +1.6 shown here. We print the numbers as measured either way.Scroll 1 리포트가 남은 과제로 명시했던 두 카테고리가 정확히 움직인 두 카테고리입니다. 시간 추론 +5.7, 멀티 세션 +2.0입니다. 단일 세션과 선호 카테고리는 소폭 낮게 읽혔는데, 이는 동일 엔진에서 더 엄격한 리더가 깎는 약 2점 안쪽이며, 따라서 엔진 수준의 상승분은 여기 보이는 +1.6보다 큽니다. 어느 쪽이든 숫자는 측정된 그대로 적습니다.

The raw scores behind the 92.3%.92.3% 뒤의 원본 점수.

Category카테고리Run 11회Run 22회Run 33회Run 44회Run 55회Average평균
Single-session user단일 세션 사용자98.697.197.198.697.197.7
Single-session assistant단일 세션 어시스턴트92.992.992.994.692.993.2
Knowledge update지식 업데이트96.296.296.297.494.996.2
Preference inference선호 추론96.793.390.093.3100.094.7
Temporal reasoning시간 추론92.592.593.294.091.792.8
Multi-session멀티 세션86.587.285.781.288.785.9
Overall전체92.692.492.091.892.892.3

Mean 92.3% · standard deviation 0.4% · range 91.8–92.8 · all 5 runs published, 0 cherry-picks.평균 92.3% · 표준편차 0.4% · 범위 91.8–92.8 · 5회 전부 공개, 체리피킹 0.

What a query costs쿼리 하나의 값

Tokens returned per query쿼리당 반환 토큰
~2,800leanerfuller
Engine recall latency (p50)엔진 회수 지연 (p50)
~450 msfasterslower

Curves show the shape of the distribution around the measured median; latency is a p50 of about 450 ms per query and stays under a second at the tail, and exact spread varies by workload. Finding finer did not make delivery heavier: the extra work moved to storage time, where it is paid once, and storage stays free.곡선은 측정된 중앙값을 중심으로 한 분포의 형태입니다. 지연은 쿼리당 p50 약 450ms이고 꼬리도 1초 이내이며, 정확한 퍼짐은 워크로드에 따라 달라집니다. 더 촘촘히 찾게 되었다고 전달이 무거워지지는 않았습니다. 늘어난 일은 저장 시점에서 한 번 치르며, 보관은 무료 그대로입니다.

Where the road is still long아직 더 갈 길

Multi-session, at 85.9 with the widest spread of any category, remains the frontier, and we would rather name it than round it away. More than half of the questions this model still misses there are of one kind: the ones that ask for a total. How many times, how much altogether, how long in all. Answering those does not take finding the relevant memories, it takes collecting every last instance, and a search built to return what is most relevant does not, by itself, promise that nothing was left behind. Finding by the sentence moved this category from 83.9 to 85.9, because scattered mentions are now easier to reach. Closing the rest is not a matter of searching harder, it is the next problem in line, and it is where the work after Scroll 1.2 points.멀티 세션은 85.9로, 카테고리 가운데 가장 큰 편차와 함께 여전히 남은 과제이며, 우리는 그것을 반올림해 지우기보다 이름을 불러 두는 쪽을 택합니다. 이 모델이 아직 틀리는 문항의 절반 이상이 한 종류입니다. 합계를 묻는 질문들입니다. 몇 번이었는지, 다 합치면 얼마인지, 전부 며칠이었는지. 이런 질문에 답하는 데 필요한 것은 관련된 기억을 찾는 일이 아니라 마지막 하나까지 모든 사례를 수집하는 일이고, 가장 관련 있는 것을 돌려주도록 만들어진 검색은 그 자체로는 아무것도 빠뜨리지 않았음을 약속하지 못합니다. 문장 단위 검색은 흩어진 언급에 닿기 쉬워진 덕분에 이 카테고리를 83.9에서 85.9로 올렸습니다. 나머지를 좁히는 일은 검색을 더 세게 하는 문제가 아니라 그다음 순서의 문제이며, Scroll 1.2 이후의 작업이 향하는 곳이 바로 거기입니다.

Ships with 1.2: Memoir & Archive1.2와 함께 출시: 회고록 & 아카이브

Scroll 1.2 also brings the first delivery forms: two ways time is written on the memories that come back. Pick one on any call, and every memory in that response arrives with when it happened written that way. It renders what you already stored, on the way out; the memories themselves do not change. Same three memories, remembered two ways:Scroll 1.2는 첫 전달 형식도 함께 가져옵니다. 돌아오는 기억에 시간을 적는 두 가지 방식입니다. 아무 호출에서나 하나를 고르면, 그 응답의 모든 기억이 언제 있었던 일인지를 그 방식으로 적어 함께 도착합니다. 이미 저장된 것을 나가는 길에 렌더링할 뿐, 기억 자체는 달라지지 않습니다. 같은 기억 세 개를 두 방식으로 기억한 모습입니다:

Memoir회고록

the way a person remembers사람이 기억하는 방식

Alice prefers tea over coffeea couple weeks ago
met Alice at the cafe downtownyesterday afternoon
Alice moved to Brooklynabout half a year ago

Archive아카이브

exact, with an anchor to compute from계산 가능한 기준점과 함께 정확하게

Alice prefers tea over coffee2 weeks ago (Jun 09)
met Alice at the cafe downtownyesterday at 14:00
Alice moved to Brooklyn6 months ago (Dec 2025)

The archive rendering is the same one every answer in the benchmark above was measured with. Available on Scroll 1.2 and up; the full developer reference is in the Time_awareness docs.아카이브 렌더링은 위 벤치마크의 모든 답변이 측정될 때 쓰인 바로 그 형식입니다. Scroll 1.2 이상에서 사용할 수 있으며, 전체 개발자 레퍼런스는 Time_awareness 문서에 있습니다.

The exact prompts사용한 프롬프트 원문

Verbatim, with nothing paraphrased. The 92.3% is the number for this exact combination; change any part and it is a different experiment.원문 그대로, 일절 의역 없이 옮겼습니다. 92.3%는 정확히 이 조합 위의 숫자이며, 어느 하나라도 바꾸면 다른 실험입니다.

Reader prompt, for answer generation리더 프롬프트, 답변 생성용

readerused to generate every answer · recommended for your own reader모든 답변 생성에 사용 · 자체 리더에도 권장
Answer the question using ONLY the retrieved memories below (each
prefixed [date] (rel=relevance)). This question is asked on: {qdate}.
Apply whichever fits:
- 'how long ago' / 'how many days/weeks/months since': compute the
  duration relative to the asking date using memory dates.
- If memories give CONFLICTING values for the same fact as of different
  dates, give the MOST RECENT value (mention the prior only if asked).
- If the question asks for ADVICE/RECOMMENDATION, first identify this
  user's relevant preferences from the memories, then tailor to them.
- For COUNT/TOTAL/LIST questions: ENUMERATE every candidate item in the
  memories (including ones mentioned only once or in passing), MERGE
  duplicates (same item on different dates = one), then count/sum the
  distinct results and state the final number.
- BEFORE the final answer, write an explicit intermediate structure from
  the memories: for COUNT/TOTAL/LIST, list every candidate item (incl.
  ones mentioned once), merge duplicates (same item on different dates =
  one), then count/sum the distinct items; for TEMPORAL /
  values-changing-over-time, build a (value, date) timeline. Show the
  structure, THEN give the final answer.
If the answer is not in the memories, say you don't know. Answer in the
SAME LANGUAGE as the question.

Memories:
{mems}

Question: {q}

Answer:
{qdate}the date the question is asked질문이 던져진 날짜 {mems}retrieved memories, each prefixed [date | N days ago]검색된 기억, 각 항목 앞에 [날짜 | N일 전] 표기 {q}the question질문

Judge prompt, for grading (temp 0)평가자 프롬프트, 채점용 (temp 0)

judgeindependent · temperature 0 · yes / no only독립 · temperature 0 · yes / no만
I will give you a question, the correct answer, and a model's response.
{RULE} Respond with ONLY 'yes' or 'no'.

Question: {q}
Correct answer: {gt}
Model response: {ans}

Is the model response correct?

{RULE} is the official LongMemEval rule applied per category:은 카테고리별로 적용되는 공식 LongMemEval 규칙입니다:

For temporal-reasoning, an answer is correct if it contains the correct answer or an equivalent, and off-by-one errors in the number of days, weeks, or months are not penalized. For knowledge-update, it is correct if it contains the correct updated answer, and mentioning previous or outdated information is fine as long as the updated answer is present. For single-session-preference, the response need not cover every point in a rubric; it counts as long as it recalls and uses the user's personal information or preference correctly. For all other categories, it is correct if it contains the correct answer, or an equivalent that includes all the intermediate steps to reach it; if it gives only a subset of the required information, it is marked wrong.시간 추론(temporal-reasoning)에서는 정답 또는 그에 준하는 내용이 포함되면 정답으로 보며, 일·주·월 수의 ±1 오차는 감점하지 않습니다. 지식 업데이트(knowledge-update)에서는 갱신된 정답이 포함되면 정답이며, 이전 정보나 오래된 정보를 언급하더라도 갱신된 답이 함께 있으면 괜찮습니다. 단일 세션 선호(single-session-preference)에서는 루브릭의 모든 항목을 다룰 필요는 없고, 사용자의 개인 정보나 선호를 올바르게 회상해 활용하면 정답입니다. 그 외 모든 카테고리에서는 정답, 또는 그에 도달하는 모든 중간 단계를 포함한 동등한 답이 있으면 정답이며, 필요한 정보 중 일부만 제시하면 오답으로 처리합니다.