Cloudflare giảm một nửa độ trễ build DNS và cắt 85% bộ nhớ như thế nào

Trong bài này
Vì sao build toàn bộ không còn mở rộng được
Mỗi sự kiện khởi động một đồng hồ đo thời gian biến thay đổi thành dữ liệu dùng được ở rìa mạng. Công việc đó gọi là build: đọc trạng thái hiện tại của cơ sở dữ liệu, chuyển sang định dạng ở rìa, rồi ghi phần thay đổi vào Quicksilver. Năm 2022, build theo từng bản ghi nhanh hơn build toàn bộ trung bình 150 lần, và trên zone thử nghiệm một triệu bản ghi là 4,250 lần.
Zone Builder ban đầu có một ưu điểm: không cần biết vì sao zone thay đổi, vì nó luôn dựng lại trạng thái mong muốn từ trạng thái hiện tại của cơ sở dữ liệu. Quy trình gồm các bước sau.
Đọc zone hiện tại cùng các thiết lập của nó.
Đọc mọi bản ghi DNS trong zone.
Chuyển các bản ghi đó thành khóa Quicksilver.
So sánh khóa mới với khóa đang lưu.
Xóa khóa lỗi thời, ghi khóa đã đổi và cập nhật siêu dữ liệu của zone.
Lần ghi cuối chỉ chứa khóa đã thay đổi, nhưng build toàn bộ vẫn phải đọc, mã hóa và so sánh từng bản ghi, đồng thời giữ cả zone trong bộ nhớ. Với zone nhỏ thì rẻ, còn với zone lớn nhất, hàng chục million bản ghi, zone không còn vừa bộ nhớ.
Biết chính xác điều gì đã thay đổi
Sự kiện bản ghi cho biết cái gì đã đổi. Sự kiện zone thì có thể đến từ nhiều sản phẩm Cloudflare, có thể không nêu lý do, và có thể làm thay đổi dữ liệu dùng chung giữa nhiều zone cùng tên. Chọn quá nhiều việc thì lãng phí năng lực, chọn quá ít có thể để lại dữ liệu DNS cũ hoặc sai ở rìa mạng. Universal SSL là ví dụ: bật hoặc tắt nó cập nhật siêu dữ liệu và có thể đổi bản ghi Certification Authority Authorization (CAA) tại apex của zone.
Build có mục tiêu phải trả lời ba câu hỏi, và việc trả lời an toàn kéo theo năm vấn đề cần giải quyết.
Những tên DNS nào có thể thay đổi?
Siêu dữ liệu dùng chung hoặc danh sách zone được công bố có thể đổi không?
Trạng thái trước đó nào phải bị xóa khỏi Quicksilver?
Bước đầu là sửa bên tạo sự kiện để kèm theo các trường và thiết lập zone đã đổi, cùng giá trị cũ và mới nếu có. Sau đó từng thiết lập được lần theo mã sinh dữ liệu DNS để phân loại phạm vi ảnh hưởng. Một số hàm cơ sở dữ liệu chỉ cập nhật dấu thời gian, và loại cập nhật này vẫn gây build toàn bộ cho đến khi xác định được nơi gọi và mục đích. Quy tắc tương tự áp dụng cho chi tiết bị thiếu hoặc sự kiện không rõ: bộ lập kế hoạch không bao giờ biến sự không chắc chắn thành ít việc hơn.
Chọn build nhỏ nhất mà vẫn an toàn
Đầu ra Quicksilver gồm hai phần. Khóa bản ghi chứa câu trả lời DNS cho một zone và một tên. Khóa siêu dữ liệu dùng chung nhỏ hơn cho máy chủ biết cách dùng zone đó, kể cả nơi tìm các bản ghi đặc biệt như nameserver và wildcard. Từ đó bộ lập kế hoạch chọn một trong năm loại build.
Chỉ tài nguyên: dựng lại bản ghi tại các tên DNS cụ thể mà không đụng siêu dữ liệu. Thay đổi A, AAAA, TXT và CNAME thông thường thường đi theo đường này.
Tài nguyên và siêu dữ liệu: dựng lại các tên cụ thể cùng siêu dữ liệu dùng chung, dành cho thay đổi nameserver và wildcard.
Apex và siêu dữ liệu: dựng lại apex của zone và siêu dữ liệu, ví dụ với các thiết lập như Universal SSL.
Purge: gỡ một zone không còn được công bố.
Toàn bộ zone: dựng lại mọi bản ghi khi không thể chứng minh việc nhỏ hơn là an toàn.
Quy tắc cốt lõi: mọi khóa mà build có mục tiêu ghi ra phải giống từng byte với khóa mà build toàn bộ sẽ ghi. Nếu không chứng minh được điều đó thì phải build toàn bộ. Việc xóa trạng thái cũ hoạt động như build theo từng bản ghi năm 2022: Zone Builder quét Quicksilver tìm các khóa hiện có dưới mỗi tên được dựng lại và xóa những khóa mà lần build mới không ghi.
Có một ngoại lệ có chủ ý. Build toàn bộ giữ trong bộ nhớ mọi bản ghi và mọi khóa Quicksilver hiện có của zone, nên zone lớn nhất không vừa. Vượt một ngưỡng số bản ghi cố định, Zone Builder không bao giờ nâng lên build toàn bộ mà dựng lại apex, siêu dữ liệu và mọi tên được các sự kiện trong hàng đợi chỉ ra. Cái giá được chấp nhận vì build toàn bộ những zone đó không thể hoàn tất, và khi thử lại nó chặn mọi thay đổi khác trên cùng partition Kafka.
Dữ liệu dùng chung và việc kiểm tra trước khi ghi
Tại thời điểm thực thi, Zone Builder đọc lại danh sách hiện tại. Nếu ghi khóa siêu dữ liệu, nó dựng lại toàn bộ khóa từ góc nhìn mới thay vì vá bản cũ, và ghi bản ghi của zone kích hoạt trước siêu dữ liệu tham chiếu đến chúng. Sự kiện chỉ mô tả quá khứ, còn build có thể phải chờ trong khi cơ sở dữ liệu thay đổi, nên việc lập kế hoạch diễn ra hai lần: sự kiện tạo danh sách việc thận trọng, rồi trước khi thực thi mọi thứ được kiểm tra lại.
Điểm chính
Thách thức nằm ở loại công việc mà sự kiện đòi hỏi và cách nó tăng theo kích thước zone, không phải số sự kiện; Zone Builder nay nhận khoảng 700 thay đổi bản ghi mỗi giây và có zone vượt 20 million bản ghi.
Bộ lập kế hoạch build có mục tiêu chọn build nhỏ nhất chứng minh được là an toàn, kết hợp bộ lập lịch mới gom việc cùng zone.
Hai thay đổi này cắt 85% bộ nhớ đỉnh, và phần dư đó cho phép rút ngắn các khoảng chờ, giảm một nửa thời gian từ thay đổi DNS đến khi dữ liệu được ghi vào Quicksilver.
Mọi khóa ghi bởi build có mục tiêu phải giống từng byte với build toàn bộ; nếu không chứng minh được thì build toàn bộ.
Lập kế hoạch diễn ra hai lần và siêu dữ liệu dùng chung luôn được dựng lại từ danh sách mới đọc, để dữ liệu thay đổi giữa sự kiện và build không gây sai lệch.
Nguồn tham khảo
Các nguồn mà bài viết này dựa vào.


