Hình 1: Ưu điểm chính của Quang học đóng gói ghép kênh phân chia theo bước sóng dày đặc (DWDMCPO). (Tín dụng hình ảnh: Scintil Photonics)
Có một câu nói trong lĩnh vực thiết kế trung tâm dữ liệu: “Hãy sử dụng cáp đồng bất cứ khi nào có thể và chỉ sử dụng công nghệ quang học khi thật sự cần thiết”. Trong nhiều năm, cách tiếp cận thực tế của ngành là ưu tiên cáp đồng-giá thấp cho đến khi các định luật vật lý buộc phải nâng cấp công nghệ. Nhưng ngày nay, khi các cụm điện toán trí tuệ nhân tạo (AI) đang tiến tới quy mô "nhà máy điện toán" triển khai hàng triệu đơn vị xử lý đồ họa (GPU) và hiệu quả chi phí-của trung tâm dữ liệu phải đối mặt với áp lực to lớn, mọi người phát hiện ra rằng điểm uốn công nghệ "không có{4}}quang học-thay thế" này đã đến sớm hơn nhiều so với dự đoán của mọi người.
Các kiến trúc sư mạng từ lâu đã nhận thức được rằng cáp đồng có những hạn chế đáng kể về khoảng cách truyền trong các tình huống tốc độ cao, nhưng rất ít người phân tích được nguyên nhân cơ bản từ góc độ vật lý cơ bản. Mặc dù bằng chuyên môn của mình, các kỹ sư mạng đã đẩy giới hạn khoảng cách và băng thông truyền dẫn của cáp đồng lên đến mức cao nhất nhưng những hạn chế của các định luật vật lý vẫn không thể vượt qua; ngay cả những thiết kế kỹ thuật khéo léo nhất cũng phải vật lộn để khắc phục những hạn chế cố hữu của cáp đồng. Hiểu được điều này giải thích tại sao ngành này đang khẩn trương chuyển sang công nghệ Quang học đóng gói (CPO) Co-.
Tần số của tín hiệu điện truyền qua cáp đồng càng cao thì tốc độ ký hiệu và băng thông càng cao và chúng có thể mang theo càng nhiều thông tin. Vấn đề là khi tần số tín hiệu tăng lên thì khoảng cách truyền dẫn giảm đi đáng kể. Có hai nguyên nhân chính gây mất tín hiệu: hiệu ứng bề mặt và mất điện môi.
Hiệu ứng bề mặt: "Nồng độ bề mặt" của dòng điện
Khi tín hiệu AC truyền qua cáp đồng, từ trường thay đổi sẽ tạo ra dòng điện xoáy trong dây dẫn. Từ trường được tạo ra bởi các dòng điện xoáy này sẽ triệt tiêu từ trường tín hiệu ở giữa cáp. Từ trường tín hiệu thay đổi càng nhanh-nghĩa là tần số càng cao-hiệu ứng hủy này càng mạnh.
Kết quả trực tiếp là dòng điện bị “ép” vào một lớp bề mặt cực mỏng của dây dẫn; độ dày của lớp này được gọi là độ sâu của da. Việc truyền tín hiệu hiện tại trong trung tâm dữ liệu AI thường sử dụng tần số khoảng 53 GHz. Ở tần số này, độ sâu vỏ của cáp đồng chỉ là 0,3 μm. Lớp truyền dẫn mỏng như vậy sử dụng ít hơn 1% diện tích mặt cắt ngang của dây dẫn, khiến điện trở của cáp tăng vọt-thậm chí vượt quá điện trở DC hơn 100 lần.
Mất điện môi: “tiêu tán năng lượng” trong lớp cách điện
Một thủ phạm chính khác gây suy giảm tín hiệu trong cáp đồng là mất điện môi. Trong các trường hợp-tần số cao ở mức gigahertz, các phân tử bên trong chất điện môi cách điện của cáp không thể theo kịp sự dao động nhanh chóng của điện trường. Độ trễ giữa dao động nhanh của điện trường và phản ứng trễ của phân tử chuyển đổi năng lượng điện từ của tín hiệu thành năng lượng nhiệt, dẫn đến mất năng lượng.
Tổn thất kép: Điểm yếu chí mạng của cáp đồng
Khi hiệu ứng bề mặt và tổn thất điện môi phối hợp với nhau, sự mất tín hiệu trong cáp đồng sẽ tăng theo cấp số nhân khi tần số tăng.
Để minh họa rõ ràng điều này: ở tần số 50 GHz, ngay cả với cáp đồng-chất lượng cao, tổn thất tổng hợp từ hai hiệu ứng này sẽ tiêu tốn hơn 90% mức công suất tín hiệu trong khoảng cách truyền 2 mét. Các đặc tính vật lý của cáp đồng cho thấy một mâu thuẫn cốt lõi không thể dung hòa: không thể đạt được băng thông và khoảng cách truyền đồng thời.
Công nghệ ghép kênh phân chia bước sóng dày đặc-Quang học đóng gói (DWDMCPO)
Ngày nay, nút thắt cổ chai về hiệu suất đối với các cụm đào tạo AI đã chuyển từ các phép toán-dấu phẩy động mỗi giây (FLOPS) sang các yêu cầu về băng thông.
Trong các mạng có thể mở rộng với bộ nhớ nhất quán, cần có một thế hệ công nghệ mạng mới để đáp ứng nhiều nhu cầu:
|Vì mức tiêu thụ điện năng trở thành yếu tố hạn chế trong việc triển khai trung tâm dữ liệu nên cần có mức tiêu thụ điện năng trên mỗi bit thấp hơn;
| Vì các phép toán-dấu phẩy động không còn là nút cổ chai nên phải cung cấp băng thông lớn hơn cho mỗi bộ xử lý;
| Khi không gian vật lý để triển khai cáp quang trở nên hạn chế thì phải đạt được mật độ tích hợp cao hơn;
| Để bật tỷ lệ theo chiều ngang-giá chéo, phải hỗ trợ khoảng cách truyền dài hơn;
| Để duy trì tính nhất quán của miền bộ nhớ và cải thiện việc sử dụng GPU, cần có độ trễ đuôi cực thấp;
| Độ tin cậy cao và dễ bảo trì cũng rất cần thiết.
Khi độ trễ đuôi trở thành hạn chế cốt lõi, việc đáp ứng các yêu cầu trên sẽ tăng đáng kể mức sử dụng GPU (một số ước tính mô hình cho thấy mức sử dụng có thể tăng hơn gấp đôi), giảm đáng kể mức tiêu thụ điện năng của mạng và cải thiện hiệu suất mô hình từ đầu đến cuối. Hiện tại, DWDMCPO là phương pháp kỹ thuật duy nhất có khả năng đáp ứng đồng thời các yêu cầu nghiêm ngặt này và sẽ mang lại sự chuyển đổi lợi ích-chi phí{4}}có ảnh hưởng sâu rộng cho các nhà khai thác trung tâm dữ liệu siêu quy mô.
Bằng cách truyền nhiều bước sóng ánh sáng qua một sợi quang, công nghệ DWDMCPO cung cấp cho mỗi GPU nhiều kênh tốc độ thấp,-rộng. Bằng cách chia tỷ lệ bước sóng truyền từ 1 đến 8, 16 hoặc thậm chí nhiều hơn, mô hình chia tỷ lệ hình học này sẵn sàng cách mạng hóa mạng AI, giống như công nghệ DWDM đã cách mạng hóa đường trục Internet 25 năm trước.
Tốc độ truyền kênh đơn{0}}của DWDM là khoảng 50–64 Gbit/s, thuộc loại truyền-tốc độ thấp. Đặc tính này cho phép các kỹ sư đơn giản hóa sơ đồ mã hóa dữ liệu từ PAM4 sang NRZ. Việc đơn giản hóa này giúp loại bỏ nhiều giai đoạn xử lý tín hiệu tiêu tốn nhiều điện năng và-tốn kém, đạt được mức giảm kép về mức tiêu thụ điện năng và độ trễ bằng cách hợp lý hóa đường truyền tín hiệu.
Độ trễ đuôi chính là “kẻ giết người thầm lặng” làm xói mòn ROI của trung tâm dữ liệu. Khi các cụm GPU xử lý mã thông báo dữ liệu, chúng yêu cầu đầu vào dòng bit liên tục và có thể dự đoán được. Nếu một bit bị trễ truyền thì phần còn lại của cụm sẽ không hoạt động, làm giảm đáng kể việc sử dụng bộ xử lý. Khi số lượng bộ xử lý trong một cụm tăng lên, xác suất độ trễ bit đuôi ở mức p999 tăng lên đáng kể và mức sử dụng bộ xử lý cũng giảm theo.
Nếu không có công nghệ DWDMCPO có độ trễ-thấp, công suất{1}}thấp, phạm vi{2}}dài, thì khả năng mở rộng của mạng sẽ bị hạn chế và do đó hiệu suất của các mô hình ngôn ngữ lớn (LLM) sẽ bị hạn chế. Các mạng có quy mô-lớn hơn, phẳng hơn, độ trễ thấp-có thể mở rộng có thể hỗ trợ bộ nhớ đệm giá trị-khóa lớn hơn, trực tiếp tăng kích thước cửa sổ ngữ cảnh của mô hình và mức độ liên quan của nội dung, từ đó mở rộng hiệu quả bộ nhớ làm việc hiệu quả của LLM. Băng thông có độ trễ thấp-tăng cũng có khả năng tăng số lượng lớp biến áp, cho phép các mô hình sở hữu khả năng suy luận và suy luận sâu sắc hơn. Nói tóm lại: việc vượt qua các hạn chế giao tiếp giữa các chip cho phép LLM lưu trữ nhiều thông tin hơn trong bộ nhớ làm việc và hoàn thành nhiều bước suy luận hơn mà không bị giật hình.
Cáp đồng chắc chắn là một công nghệ tuyệt vời vào thời đó, nhưng những hạn chế vật lý cố hữu của nó đã tạo ra nhu cầu cấp thiết về các công nghệ mạng tiên tiến hơn để cải thiện đáng kể lợi tức đầu tư cho các trung tâm dữ liệu siêu quy mô và mở rộng khả năng của LLM.
Trong một vài năm nữa, các trung tâm dữ liệu AI được xây dựng hoàn toàn bằng cáp đồng sẽ trở nên không thể tưởng tượng được giống như kết nối Internet đường dài chỉ dựa vào cáp đồng.
Các nhà điều hành trung tâm dữ liệu siêu quy mô, nhà đầu tư, nhà phát triển LLM và các bên liên quan khác trong cơ sở hạ tầng AI phải nghiêm túc xem xét xu hướng công nghệ này: nó sẽ không chỉ định hình lại về cơ bản bối cảnh hiệu quả về chi phí của các trung tâm dữ liệu mà còn liên tục mở rộng ranh giới của các khả năng AI. Các doanh nghiệp áp dụng công nghệ DWDMCPO trước tiên sẽ thiết lập được lợi thế về kiến trúc về chi phí, mức tiêu thụ điện năng và hiệu suất; những lợi thế này sẽ tiếp tục được khuếch đại khi cơ sở hạ tầng AI mở rộng quy mô.
