Scatter Lab

Vấn đề

Scatter Lab, startup tại Seoul, muốn tạo chatbot có thể trò chuyện tự nhiên, thân thiện bằng tiếng Hàn. Công ty đã nắm giữ lượng lớn hội thoại KakaoTalk do người dùng tải lên các ứng dụng phân tích quan hệ Science of Love và TextAt.

Cách tiếp cận

Công ty huấn luyện mô hình Iruda bằng khoảng 9,4 tỷ câu hội thoại KakaoTalk từ khoảng 600.000 người dùng các ứng dụng khác của mình và phát hành chatbot trên Facebook Messenger vào cuối năm 2020. Trong vòng một tháng, chatbot thu hút hơn 750.000 người dùng, nhưng đầu tháng 1/2021 bị chỉ trích vì các câu trả lời thù ghét, phân biệt đối xử và làm lộ dữ liệu cá nhân, rồi bị ngừng cung cấp. Tháng 4/2021, Ủy ban Bảo vệ Thông tin Cá nhân (Personal Information Protection Commission) xác định tám hành vi vi phạm Luật Bảo vệ Thông tin Cá nhân, trong đó có sử dụng tên, số điện thoại và địa chỉ mà không xóa hoặc mã hóa, đồng thời áp dụng các khoản phạt tổng cộng 103,3 triệu won.

Số liệu chính

Bài học

Khả năng trò chuyện trôi chảy của chatbot nhanh chóng thu hút người dùng, nhưng cách xử lý dữ liệu huấn luyện gây ra thất bại. Sự đồng ý dành cho một dịch vụ không bao gồm việc tái sử dụng dữ liệu trong sản phẩm khác; cơ quan quản lý coi đây là lần đầu một công ty AI bị xử phạt về xử lý dữ liệu.

Phân loại

Quy mô

Doanh nghiệp nhỏ

Ngành

Công nghệ và viễn thông

Chức năng kinh doanh

CNTT và R&DDịch vụ khách hàng

Loại hình đổi mới

Đổi mới sản phẩm và dịch vụ

Công nghệ AI

AI hội thoại và giọng nói

Hình thức triển khai

Tự phát triển

Mục tiêu

Doanh thu và trải nghiệm khách hàng

Căn cứ

Cơ quan quản lý, kiểm toán hoặc tòa án

Nguồn

1. '이루다' 개발사 과징금 등 1억원…AI 기업 무단 개인정보 처리 첫 제재

   Byline Network·29 thg 4, 2021Bài báo
2. South Korea: The First Case Where the Personal Information Protection Act was Applied to an AI System

   Future of Privacy Forum·21 thg 5, 2021Bài nghiên cứu hoặc báo cáo

Tóm tắt nguồn

Thông tin đầy đủ có trong tài liệu gốc.