Các nghệ sĩ và nhiếp ảnh gia chuyên nghiệp khó chịu với việc các công ty AI sáng tạo sử dụng công việc của họ để đào tạo công nghệ của họ có thể sớm có cách phản ứng hiệu quả mà không liên quan đến việc ra tòa.
AI sáng tạo đã bùng nổ với sự ra mắt của chatbot ChatGPT của OpenAI gần một năm trước. Công cụ này cực kỳ thành thạo trong việc trò chuyện theo cách rất tự nhiên, giống con người, nhưng để có được khả năng đó, nó phải được đào tạo trên hàng loạt dữ liệu được lấy từ web.
Các công cụ AI tổng hợp tương tự cũng có khả năng tạo ra hình ảnh từ lời nhắc bằng văn bản, nhưng giống như ChatGPT, chúng được đào tạo bằng cách thu thập các hình ảnh được xuất bản trên web.
Điều đó có nghĩa là các nghệ sĩ và nhiếp ảnh gia đang bị các công ty công nghệ sử dụng tác phẩm của họ mà không có sự đồng ý hoặc bồi thường để xây dựng các công cụ AI sáng tạo của họ.
Để chống lại điều này, một nhóm các nhà nghiên cứu đã phát triển một công cụ có tên Nightshade có khả năng gây nhầm lẫn cho mô hình đào tạo, khiến nó đưa ra những hình ảnh sai lầm khi đáp lại lời nhắc.
Được nêu gần đây trong một bài viết của Đánh giá công nghệ MITNightshade “đầu độc” dữ liệu huấn luyện bằng cách thêm các pixel vô hình vào một tác phẩm nghệ thuật trước khi nó được tải lên web.
“Việc sử dụng nó để ‘đầu độc’ dữ liệu đào tạo này có thể gây tổn hại cho các lần lặp lại trong tương lai của các mô hình AI tạo hình ảnh, chẳng hạn như DALL-E, Midjourney và Stable Diffusion, bằng cách khiến một số kết quả đầu ra của chúng trở nên vô dụng – chó trở thành mèo, ô tô trở thành bò và vân vân,” báo cáo của MIT cho biết và nói thêm rằng nghiên cứu đằng sau Nightshade đã được gửi để bình duyệt.
Mặc dù các công cụ tạo hình ảnh vốn đã rất ấn tượng và đang tiếp tục được cải thiện, nhưng cách đào tạo chúng lại gây tranh cãi. Nhiều người sáng tạo ra các công cụ này hiện đang phải đối mặt với các vụ kiện từ các nghệ sĩ cho rằng tác phẩm của họ đã bị sử dụng mà không được phép hoặc không được trả tiền.
Giáo sư Ben Zhao của Đại học Chicago, người đứng đầu nhóm nghiên cứu đằng sau Nightshade, nói rằng một công cụ như vậy có thể giúp chuyển cán cân quyền lực trở lại với các nghệ sĩ, bắn một phát súng cảnh báo vào các công ty công nghệ phớt lờ bản quyền và sở hữu trí tuệ.
“Các bộ dữ liệu cho các mô hình AI lớn có thể bao gồm hàng tỷ hình ảnh, do đó, càng có nhiều hình ảnh bị nhiễm độc được đưa vào mô hình thì kỹ thuật này sẽ gây ra càng nhiều thiệt hại”, MIT Technology Review cho biết trong báo cáo của mình.
Khi phát hành Nightshade, nhóm đang lên kế hoạch biến nó thành nguồn mở để những người khác có thể tinh chỉnh và làm cho nó hiệu quả hơn.
Nhận thức được khả năng gây gián đoạn của nó, nhóm đằng sau Nightshade cho biết nó nên được sử dụng như “biện pháp bảo vệ cuối cùng cho những người sáng tạo nội dung trước những kẻ phá hoại web” không tôn trọng quyền của họ.
Trong nỗ lực giải quyết vấn đề này, OpenAI, người tạo ra DALL-E gần đây đã bắt đầu cho phép các nghệ sĩ loại bỏ tác phẩm của họ từ dữ liệu đào tạo của nó, nhưng quá trình này được mô tả là cực kỳ phức tạp vì nó yêu cầu nghệ sĩ phải gửi bản sao của từng hình ảnh họ muốn xóa, cùng với mô tả về hình ảnh đó, với mỗi yêu cầu yêu cầu ứng dụng riêng.
Việc làm cho quá trình loại bỏ trở nên dễ dàng hơn đáng kể có thể khiến các nghệ sĩ không muốn sử dụng một công cụ như Nightshade, điều này có thể gây ra nhiều vấn đề hơn cho OpenAI và những công cụ khác về lâu dài.
Khuyến nghị của biên tập viên
-
Công cụ mới của OpenAI có thể phát hiện hình ảnh AI giả mạo, nhưng có một nhược điểm
-
Meta vừa tạo AI Snoop Dogg cho game nhập vai văn bản của bạn
-
Khảo sát mới cho biết hầu hết mọi người không tin tưởng vào AI và muốn có quy định
-
Zoom thêm ChatGPT để giúp bạn theo dõi cuộc gọi nhỡ
-
Google Bard có thể sớm trở thành huấn luyện viên cuộc sống AI mới của bạn
[ad_2]
Source link