Vào thứ Hai, IBM đã công bố một bước đột phá trong công nghệ quang học hứa hẹn sẽ cải thiện đáng kể cách các trung tâm dữ liệu đào tạo và điều hành các mô hình trí tuệ nhân tạo (AI) thế hệ. Về cơ bản, công nghệ quang học được đồng đóng gói mới của nó về cơ bản cho phép sức mạnh của quang học được đưa vào bên trong chip, cho phép các kết nối trong các trung tâm dữ liệu đạt đến tốc độ ánh sáng.
Nói chuyện với các phóng viên tại một cuộc họp báo truyền thông, Mukesh Khare, tổng giám đốc của IBM Semiconductor, nói rằng ngành công nghiệp viễn thông đã có những bước tiến đáng kể trong việc tạo ra các chip nhanh hơn, nhưng tốc độ giao tiếp giữa những con chip đó đã không theo kịp điều đó. Có một khoảng cách của một số bậc độ lớn giữa tốc độ tăng trưởng trong sức mạnh tính toán và tốc độ tăng trưởng trong tốc độ giao tiếp giữa các chip.
Trên thực tế, ở mức độ cơ bản hơn, chip vẫn giao tiếp qua điện, họ sử dụng dây đồng, "ông lưu ý. Và tất cả chúng ta đều biết rằng công nghệ truyền thông tốt nhất là sợi quang, đó là lý do tại sao nó được sử dụng ở khắp mọi nơi trong giao tiếp đường dài."
Mặc dù các quang học được đóng gói đã xuất hiện trong một thời gian, IBM đã cách mạng hóa quang học đồng đóng gói bằng cách phát triển công nghệ ống dẫn sóng quang polymer (PWG) mới cho phép các nhà sản xuất chip đặt chip silicon silicon ở khu vực cạnh - một không gian có giá trị được gọi là "bất động sản chính" và sau đó sử dụng lần đầu tiên. Công nghệ PWG cho phép các nhà sản xuất chip đặt các sợi quang gấp sáu lần ở khu vực cạnh của chip photonic silicon - một không gian có giá trị được gọi là "bất động sản chính" - hơn bao giờ hết. Mỗi sợi rộng khoảng ba lần so với tóc người, có thể kéo dài từ vài cm đến hàng trăm mét và có thể truyền dữ liệu ở terabits mỗi giây.
Tất cả có nghĩa là gì?
Công ty cho biết công nghệ này sẽ cho phép băng thông truyền thông nhanh hơn 80 lần giữa các chip so với ngày nay có thể sử dụng thiết bị điện tử và giảm mức tiêu thụ năng lượng hơn năm lần.
Nó cũng có thể làm cho đào tạo các mô hình ngôn ngữ lớn (LLM) nhanh hơn tới năm lần, giảm thời gian để đào tạo LLM tiêu chuẩn từ ba tháng xuống còn ba tuần, với mức tăng hiệu suất tăng khi các mô hình lớn hơn và sử dụng nhiều GPU hơn.
Ngoài việc cho phép GPU và bàn đạp gas giao tiếp với nhau nhanh hơn, công nghệ này có khả năng xác định lại cách ngành công nghiệp điện toán truyền dữ liệu băng thông cao thông qua các bảng và máy chủ.
Khare nói, "Chúng tôi rất vui mừng được giới thiệu sức mạnh của ánh sáng để tăng tốc triệt để thế giới của AI và nhiều ứng dụng khác."
Khi được hỏi khi nào công nghệ sẽ được thương mại hóa, Khare cho biết bộ phận nghiên cứu của IBM đã "sẵn sàng đưa nó vào sử dụng".
