Context: thứ bạn đưa vào quyết định thứ bạn nhận về

Mình từng bảo Claude viết ghi chú phát hành từ changelog. Kết quả ra chung chung, thiếu hết mấy chi tiết mà mình tưởng ai cũng biết.

Ngồi xem lại thì lỗi ở mình, không phải ở nó. Mình đã không đưa cho nó thứ nó cần.

Context là gì

Context là toàn bộ chữ nằm trong tầm nhìn của mô hình lúc nó trả lời:

Câu bạn vừa gõ
Tài liệu bạn dán hoặc đính kèm
Những gì đã trao đổi trước đó trong cùng cuộc trò chuyện

Hết. Nó không đọc được ý trong đầu bạn, không tự vào Drive hay codebase của bạn được.

Muốn nó nói về tài liệu nào thì phải đưa đúng tài liệu đó vào.

Phần lớn câu trả lời tệ đến từ thiếu context

Không phải bạn hỏi dở đâu. Thường là mô hình không được nhìn thấy thứ nó cần.

Mấy ví dụ hay gặp:

"Tóm tắt chính sách đổi trả của shop mình" mà không dán chính sách vào. Nó sẽ tóm tắt một cái chính sách chung chung nào đó.
"Tạo checklist QA cho app của mình" mà không nói phạm vi, nền tảng, luồng chính. Nó liệt kê mấy thứ ai cũng biết.
"Soạn email trả lời khách này" mà thiếu nội dung khách phàn nàn và giọng thương hiệu. Ra một cái email mẫu vô hồn.

Cách sửa đơn giản tới mức hơi buồn cười: đưa đúng thứ nó cần.

Cửa sổ context có giới hạn

Tầm nhìn của nó có hạn. Chat càng dài thì phần cũ càng bị đẩy ra ngoài.

Bạn nghĩ "mình nói ở đầu rồi mà", nhưng lúc này nó không còn thấy nữa. Đó là lý do chat lâu hay bị trôi đề, hoặc quên mất định nghĩa và tiêu chí đã thống nhất.

Cách xử lý:

Nhắc lại mấy ràng buộc quan trọng ở lượt mới
Gom một bản tóm tắt ngắn để giữ nhịp, đừng trông chờ trí nhớ dài
Rối quá thì mở cuộc mới, đừng cố cứu

Nhưng đừng nhồi hết mọi thứ vào

Đây là sai lầm ngược lại, cũng phổ biến không kém. Dồn một đống thứ không liên quan vào thì nhiễu tăng, tín hiệu giảm, câu trả lời tệ đi.

Nên đưa	Nên bỏ
Mục tiêu cụ thể của lượt này	Lịch sử chat dài đã hết liên quan
Đoạn tài liệu đúng chủ đề	Tài liệu đưa phòng hờ, không dùng tới
Ràng buộc và tiêu chí chấm đầu ra	Ví dụ lan man không phục vụ mục tiêu
Bối cảnh tối thiểu để hiểu đúng	Lời dặn lặp đi lặp lại

Ít mà đúng vẫn hơn nhiều mà loãng.

Quy tắc mình dùng: đúng, đủ, không thừa

Đúng: chỉ đưa nguồn sẽ thật sự được dùng. Muốn nói về chính sách đổi trả của shop bạn thì dán chính sách đó vào, đừng mong nó tự biết.
Đủ: nêu mục tiêu, vai trò, phạm vi, tiêu chí chấp nhận. Ví dụ: "Viết ghi chú phát hành cho merchant. Giọng súc tích, có tiêu đề, nêu rõ ảnh hưởng tới hiệu năng và việc merchant cần làm."
Không thừa: bỏ phần không liên quan tới lượt này. Cần thì trích đoạn, đừng đẩy nguyên tài liệu.

Vài mẹo nhỏ:

Đặt tiêu đề cho từng phần đầu vào: [Mục tiêu], [Dữ liệu], [Ràng buộc], [Đầu ra mong muốn]
Cần chính xác thì yêu cầu nó trích dẫn nguồn
Nhiều việc khác nhau thì tách ra từng lượt, mỗi lượt một context gọn

Khi nào nên mở cuộc mới

Khi yêu cầu mới đã khác hẳn mục tiêu ban đầu
Khi bạn thấy mình phải nhắc lại quá nhiều lần
Khi chat cũ đầy ràng buộc đã hết hạn, chỉ tổ gây nhiễu

Mở cuộc mới, dán đúng tài liệu cần, viết yêu cầu ngắn, nêu tiêu chí đầu ra. Context sạch thì chất lượng bật lên thấy rõ ngay.

Tóm lại

Claude chỉ làm việc với thứ nó nhìn thấy, không phải thứ bạn cho là hiển nhiên
Cửa sổ context có hạn, nói dài quá thì phần đầu trôi mất
Đừng nhồi nhét. Đúng, đủ, không thừa.