Nhan đề chính: Large Language Models in Cybersecurity

Nhan đề dịch: Mô hình ngôn ngữ lớn trong an ninh mạng

Tác giả: Andrei Kucharavy, Octave Plancherel, Valentin Mulder

Nhà xuất bản: Springer Cham

Năm xuất bản: 2024

Số trang: 270 tr.

Ngôn ngữ: Tiếng Anh

ISBN: 978-3-031-54827-7

SpringerLink

  Lời giới thiệu: Cuốn sách truy cập mở này cung cấp cho các chuyên gia an ninh mạng kiến ​​thức cần thiết để hiểu được những rủi ro của việc tăng cường tính khả dụng của các mô hình ngôn ngữ lớn (LLM) mạnh mẽ và cách giảm thiểu chúng. Cuốn sách cố gắng vượt qua những kẻ tấn công độc hại bằng cách dự đoán những gì chúng có thể làm. Cuốn sách cũng cảnh báo các nhà phát triển LLM hiểu được rủi ro của công việc đối với an ninh mạng và cung cấp cho họ các công cụ để giảm thiểu những rủi ro đó.

Bắt đầu ở phần I với phần giới thiệu chung về LLM và các lĩnh vực ứng dụng chính của chúng. Phần II thu thập mô tả về các mối đe dọa nổi bật nhất mà LLM đại diện trong an ninh mạng, cho dù chúng là công cụ cho tội phạm mạng hay là bề mặt tấn công mới nếu được tích hợp vào phần mềm hiện có. Phần III tập trung vào việc cố gắng dự báo mức độ phơi nhiễm và sự phát triển của các công nghệ và khoa học hỗ trợ LLM, cũng như các đòn bẩy vĩ mô có sẵn cho các cơ quan quản lý để thúc đẩy an ninh mạng trong thời đại của LLM. Cuối cùng, ở phần IV, các kỹ thuật giảm thiểu cho phép phát triển và triển khai LLM an toàn và bảo mật được trình bày. Cuốn sách kết thúc với hai chương cuối ở phần V, một chương suy đoán về thiết kế và tích hợp an toàn của LLM từ các nguyên tắc đầu tiên sẽ như thế nào và chương còn lại trình bày tóm tắt về tính hai mặt của LLM trong an ninh mạng.

Cuốn sách này là cuốn thứ hai trong một loạt sách được xuất bản bởi nhóm giám sát công nghệ (TM) của Khuôn viên phòng thủ mạng. Cuốn sách đầu tiên có tựa đề "Xu hướng về công nghệ mã hóa và bảo vệ dữ liệu" đã ra mắt vào năm 2023. Loạt sách này cung cấp thông tin dự đoán về công nghệ và xu hướng cho các nhà hoạch định chính sách trong chính phủ, ngành công nghiệp và giới học thuật cũng như các chuyên gia kỹ thuật.

  Từ khóa: An ninh mạng; Công nghệ mã hóa; Mô hình ngôn ngữ lớn; LLMs; Mạng lưới nơ-ron; Quản lý rủi ro; Phòng thủ mạng

Nội dung cuốn sách gồm những phần sau:

Giới thiệu:

- Từ mô hình ngôn ngữ mạng nơ-ron sâu đến LLMs

- Điều chỉnh mô hình ngôn ngữ lớn (LLM) cho các ứng dụng hạ nguồn

- Tổng quan về các dòng mô hình ngôn ngữ lớn (LLM) hiện có

- Các tác nhân đàm thoại

- Những hạn chế cơ bản của mô hình ngôn ngữ lớn (LLM) tạo sinh

- Nhiệm vụ của mô hình ngôn ngữ lớn (LLM) và đánh giá của chúng

Mô hình ngôn ngữ lớn trong an ninh mạng:

- Rò rỉ thông tin cá nhân trong mô hình ngôn ngữ lớn (LLM)

- Lừa đảo và kỹ nghệ xã hội trong thời đại mô hình ngôn ngữ lớn (LLM)

- Các lỗ hổng bảo mật được tạo ra bởi mô hình ngôn ngữ lớn thông qua gợi ý mã lệnh

- Mô hình ngôn ngữ lớn kiểm soát việc chiếm đoạt luồng thực thi

- Các hoạt động gây ảnh hưởng trên mạng xã hội được hỗ trợ bởi mô hình ngôn ngữ lớn (LLM)

- Lập chỉ mục Deep(er) Web với sự hỗ trợ của mô hình ngôn ngữ lớn

Theo dõi và dự báo rủi ro:

- Xu hướng áp dụng mô hình ngôn ngữ lớn (LLM) và rủi ro liên quan

- Dòng chảy đầu tư trong không gian mô hình ngôn ngữ lớn (LLM)

- Triển vọng bảo hiểm cho rủi ro do LLM gây ra

- Rủi ro liên quan đến bản quyền trong việc tạo và sử dụng hệ thống ML/AI

…..