Safety Alignment Should be Made More Than Just a Few Tokens Deep

Bài báo phân tích hiện tượng căn chỉnh an toàn chỉ tập trung vào vài token đầu của câu trả lời. Các thí nghiệm và mục tiêu fine-tuning có điều chuẩn khảo sát cách kéo dài hành vi an toàn và hạn chế sự suy giảm sau fine-tuning.

Bài báo phân tích hiện tượng căn chỉnh an toàn chỉ tập trung vào vài token đầu của câu trả lời. Các thí nghiệm và mục tiêu fine-tuning có điều chuẩn khảo sát cách kéo dài hành vi an toàn và hạn chế sự suy giảm sau fine-tuning.

Khi đọc bài gốc, hãy xác định bài toán, đầu vào, đầu ra và giả định của phương pháp.

Bài báo phân tích hiện tượng căn chỉnh an toàn chỉ tập trung vào vài token đầu của câu trả lời. Các thí nghiệm và mục tiêu fine-tuning có điều chuẩn khảo sát cách kéo dài hành vi an toàn và hạn chế sự suy giảm sau fine-tuning.

Đối chiếu baseline, dữ liệu, giao thức đánh giá và ablation trong bài gốc. Mục giới thiệu này không cung cấp một đánh giá độc lập hoặc bảng kết quả thực nghiệm.