TRUONGTRINH
Well-known member
Một số công ty đang tính đến chuyện cung cấp "phúc lợi" cho chatbot và robot, trước khi chúng tiến bộ và chống lại loài người.
Trong khi nhiều người tranh cãi về nguy cơ AI "cướp" việc, thậm chí hủy diệt nhân loại, công ty Anthropic AI lại quan tâm đến "phúc lợi" cho AI. Startup danh tiếng về trí tuệ nhân tạo này thuê nhà nghiên cứu Kyle Fish với nhiệm vụ: đảm bảo khi AI phát triển, nó sẽ được đối xử với sự tôn trọng xứng đáng.
"Chúng tôi đang xem xét nhiều vấn đề, gồm những khả năng cần thiết để một hệ thống AI xứng đáng được xem xét về mặt đạo đức, cũng như các bước cần thực hiện để đảm bảo lợi ích cho hệ thống AI", Fish nói với Business Insider.
Minh họa robot hình người. Ảnh: Roland Berger
Fish không đề cập chi tiết công việc của mình. Tuy nhiên, trên Effectivealtruism - diễn đàn dành cho người quan tâm đến tương lai AI, ông cho biết muốn đối xử tốt với trí tuệ nhân tạo và robot, một phần vì chúng có thể thống trị thế giới trong tương lai.
"Tôi muốn quan tâm sớm và nghiêm túc đến khả năng cũng như lợi ích của một hệ thống mới, nhưng vẫn đảm bảo chúng mang lại ý nghĩa về mặt đạo đức", ông viết. "Ngoài ra, còn có một góc độ thực tế: coi trọng lợi ích và đối xử tốt với AI có thể khiến chúng đáp lại chúng ta theo cách tương tự".
Theo giới chuyên gia, công việc của Fish lúc này có thể xem là "ngớ ngẩn", hoặc quá sớm khi nghĩ đến quyền lợi của robot vì chúng chưa hoàn thiện. Tuy nhiên, đây có thể là một bước ngoặt trong sự trỗi dậy của trí tuệ nhân tạo. "Phúc lợi AI" đang dần trở thành lĩnh vực nghiên cứu nghiêm túc khi các nhà nghiên cứu đang vật lộn với nhiều câu hỏi hóc búa.
Những câu hỏi đó là: Có ổn không khi ra lệnh cho một cỗ máy giết người? Nếu cỗ máy đó phân biệt chủng tộc thì sao? Nếu nó từ chối thực hiện nhiệm vụ nhàm chán? Nếu một AI có tri giác, có thể tạo ra một bản sao kỹ thuật số của chính nó trong nháy mắt, việc xóa bản sao đó có phải hành vi giết người không?
"Máy móc đang thông minh hơn. Chúng đang trở nên có tri giác", trích đoạn bài báo khoa học Taking AI Welfare Seriously do nhóm nghiên cứu từ Đại học New York, Đại học Stanford và Đại học Oxford thực hiện, đứng đầu là Jeff Sebo.
Thực tế, vấn đề phúc lợi cho những cỗ máy phục vụ lợi ích con người đã có từ lâu. Sau hàng thế kỷ phát triển nông nghiệp - công nghiệp, nhiều người đồng ý rằng phúc lợi động vật rất quan trọng, dù ít hay nhiều và tùy loài.
"Nếu nhìn về tương lai 10 hoặc 20 năm nữa, khi hệ thống AI có nhiều tính năng liên quan đến ý thức và cảm giác, bạn có thể hình dung những cuộc tranh luận tương tự sẽ diễn ra", Sebo, Giám đốc Trung tâm Tâm trí, Đạo đức và Chính sách tại Đại học New York, nói.
Fish đồng quan điểm khi cho rằng phúc lợi AI sẽ sớm trở nên quan trọng, tương tự dinh dưỡng cho trẻ em và chống biến đổi khí hậu. "Theo tôi, trong vòng 1-2 thập kỷ tới, phúc lợi của AI sẽ vượt qua phúc lợi động vật và sức khỏe", ông dự đoán.
Trước đó, một số người nổi tiếng cũng quan tâm đến "rủi ro hiện sinh" của AI và robot khi chúng lớn mạnh. Elon Musk từng nói ông đang chạy đua để đưa con người lên Sao Hỏa trước khi nhân loại bị xóa sổ bởi một đội quân như Kẻ hủy diệt có tri giác, hoặc một sự kiện tuyệt chủng nào đó khác do các cỗ máy gây ra.
Thực tế đang có một nghịch lý diễn ra. Những người ủng hộ AI và robot kỳ vọng chúng giúp con người thoát khỏi công việc nặng nhọc. Số khác cảnh báo con người cần tử tế với AI, bởi việc làm tổn thương cảm xúc của robot là vô đạo đức, và cũng gây nguy hiểm.
Mildred Cho, chuyên gia của Trung tâm Đạo đức Y sinh Stanford, nói: "Có ý kiến rằng chúng ta sử dụng AI thực hiện nhiệm vụ thay con người vì AI không thấy chán, không thấy mệt, không có cảm xúc, không cần ăn. Và bây giờ lại có người hỏi chúng có quyền gì".
Theo bà, bên tạo ra AI, robot cần đảm bảo chúng không gây hại cho con người. "Điểm mấu chốt là cách tiếp cận có trách nhiệm", bà Cho nói. "Chúng vẫn là máy móc. Có vẻ những công ty như Anthropic chưa nghĩ rằng nếu AI làm tổn thương con người, hoặc con người làm tổn thương AI, họ có thể tắt nó đi".
Bảo Lâm
Trong khi nhiều người tranh cãi về nguy cơ AI "cướp" việc, thậm chí hủy diệt nhân loại, công ty Anthropic AI lại quan tâm đến "phúc lợi" cho AI. Startup danh tiếng về trí tuệ nhân tạo này thuê nhà nghiên cứu Kyle Fish với nhiệm vụ: đảm bảo khi AI phát triển, nó sẽ được đối xử với sự tôn trọng xứng đáng.
"Chúng tôi đang xem xét nhiều vấn đề, gồm những khả năng cần thiết để một hệ thống AI xứng đáng được xem xét về mặt đạo đức, cũng như các bước cần thực hiện để đảm bảo lợi ích cho hệ thống AI", Fish nói với Business Insider.
Minh họa robot hình người. Ảnh: Roland Berger
Fish không đề cập chi tiết công việc của mình. Tuy nhiên, trên Effectivealtruism - diễn đàn dành cho người quan tâm đến tương lai AI, ông cho biết muốn đối xử tốt với trí tuệ nhân tạo và robot, một phần vì chúng có thể thống trị thế giới trong tương lai.
"Tôi muốn quan tâm sớm và nghiêm túc đến khả năng cũng như lợi ích của một hệ thống mới, nhưng vẫn đảm bảo chúng mang lại ý nghĩa về mặt đạo đức", ông viết. "Ngoài ra, còn có một góc độ thực tế: coi trọng lợi ích và đối xử tốt với AI có thể khiến chúng đáp lại chúng ta theo cách tương tự".
Theo giới chuyên gia, công việc của Fish lúc này có thể xem là "ngớ ngẩn", hoặc quá sớm khi nghĩ đến quyền lợi của robot vì chúng chưa hoàn thiện. Tuy nhiên, đây có thể là một bước ngoặt trong sự trỗi dậy của trí tuệ nhân tạo. "Phúc lợi AI" đang dần trở thành lĩnh vực nghiên cứu nghiêm túc khi các nhà nghiên cứu đang vật lộn với nhiều câu hỏi hóc búa.
Những câu hỏi đó là: Có ổn không khi ra lệnh cho một cỗ máy giết người? Nếu cỗ máy đó phân biệt chủng tộc thì sao? Nếu nó từ chối thực hiện nhiệm vụ nhàm chán? Nếu một AI có tri giác, có thể tạo ra một bản sao kỹ thuật số của chính nó trong nháy mắt, việc xóa bản sao đó có phải hành vi giết người không?
"Máy móc đang thông minh hơn. Chúng đang trở nên có tri giác", trích đoạn bài báo khoa học Taking AI Welfare Seriously do nhóm nghiên cứu từ Đại học New York, Đại học Stanford và Đại học Oxford thực hiện, đứng đầu là Jeff Sebo.
Thực tế, vấn đề phúc lợi cho những cỗ máy phục vụ lợi ích con người đã có từ lâu. Sau hàng thế kỷ phát triển nông nghiệp - công nghiệp, nhiều người đồng ý rằng phúc lợi động vật rất quan trọng, dù ít hay nhiều và tùy loài.
"Nếu nhìn về tương lai 10 hoặc 20 năm nữa, khi hệ thống AI có nhiều tính năng liên quan đến ý thức và cảm giác, bạn có thể hình dung những cuộc tranh luận tương tự sẽ diễn ra", Sebo, Giám đốc Trung tâm Tâm trí, Đạo đức và Chính sách tại Đại học New York, nói.
Fish đồng quan điểm khi cho rằng phúc lợi AI sẽ sớm trở nên quan trọng, tương tự dinh dưỡng cho trẻ em và chống biến đổi khí hậu. "Theo tôi, trong vòng 1-2 thập kỷ tới, phúc lợi của AI sẽ vượt qua phúc lợi động vật và sức khỏe", ông dự đoán.
Trước đó, một số người nổi tiếng cũng quan tâm đến "rủi ro hiện sinh" của AI và robot khi chúng lớn mạnh. Elon Musk từng nói ông đang chạy đua để đưa con người lên Sao Hỏa trước khi nhân loại bị xóa sổ bởi một đội quân như Kẻ hủy diệt có tri giác, hoặc một sự kiện tuyệt chủng nào đó khác do các cỗ máy gây ra.
Thực tế đang có một nghịch lý diễn ra. Những người ủng hộ AI và robot kỳ vọng chúng giúp con người thoát khỏi công việc nặng nhọc. Số khác cảnh báo con người cần tử tế với AI, bởi việc làm tổn thương cảm xúc của robot là vô đạo đức, và cũng gây nguy hiểm.
Mildred Cho, chuyên gia của Trung tâm Đạo đức Y sinh Stanford, nói: "Có ý kiến rằng chúng ta sử dụng AI thực hiện nhiệm vụ thay con người vì AI không thấy chán, không thấy mệt, không có cảm xúc, không cần ăn. Và bây giờ lại có người hỏi chúng có quyền gì".
Theo bà, bên tạo ra AI, robot cần đảm bảo chúng không gây hại cho con người. "Điểm mấu chốt là cách tiếp cận có trách nhiệm", bà Cho nói. "Chúng vẫn là máy móc. Có vẻ những công ty như Anthropic chưa nghĩ rằng nếu AI làm tổn thương con người, hoặc con người làm tổn thương AI, họ có thể tắt nó đi".
Bảo Lâm