Kiểm toán dự án ứng dụng NHS Trust với DeepMind đặt ra nhiều câu hỏi hơn là câu trả lời

Khoa Học/Công Nghệ

Kiểm toán của bên thứ ba về sự sắp xếp dữ liệu bệnh nhân gây tranh cãi giữa một NHS Trust London và Google DeepMind dường như đã xem xét các vấn đề cốt lõi gây ra tranh cãi ngay từ đầu. Việc kiểm toán (báo cáo đầy đủ ở đây) - được thực hiện bởi công ty luật Linklaters - của…

Kiểm toán của bên thứ ba về sự sắp xếp dữ liệu bệnh nhân gây tranh cãi giữa một NHS Trust London và Google DeepMind dường như đã xem xét các vấn đề cốt lõi gây ra tranh cãi ngay từ đầu.

Việc kiểm toán (báo cáo đầy đủ ở đây) - được thực hiện bởi công ty luật Linklaters - hệ thống ứng dụng phát hiện chấn thương thận cấp tính của Royal Free NHS Foundation Trust, Streams, được phát triển cùng với Google-DeepMind (sử dụng thuật toán NHS hiện có để phát hiện sớm điều kiện), không kiểm tra thỏa thuận chia sẻ thông tin có vấn đề năm 2015 được viết giữa cặp cho phép dữ liệu bắt đầu chảy.

“Báo cáo này chứa đánh giá về các vấn đề bảo vệ dữ liệu và bảo mật liên quan đến các thỏa thuận bảo vệ dữ liệu giữa Royal Free và DeepMind. Nó được giới hạn trong việc sử dụng Streams hiện tại, và bất kỳ phát triển thêm, kiểm tra chức năng hoặc thử nghiệm lâm sàng, đó là một trong hai kế hoạch hoặc trong tiến trình. Nó không phải là một đánh giá lịch sử, ”Linklaters viết, thêm rằng:" Nó bao gồm xem xét liệu sự minh bạch, xử lý công bằng, tỷ lệ và chia sẻ thông tin liên quan nêu trong các chủ trương đang được đáp ứng. "

Tuy nhiên, đó là hợp đồng ban đầu năm 2015 đã gây ra tranh cãi, sau khi nó được thu thập và xuất bản bởi nhà khoa học mới, với các câu hỏi mở rộng tài liệu trên phạm vi rộng của việc truyền dữ liệu; các căn cứ pháp lý để thông tin bệnh nhân được chia sẻ; và dẫn đến các câu hỏi về việc liệu các quy trình pháp lý có mục đích bảo vệ bệnh nhân và dữ liệu bệnh nhân đã được hai bên chính tham gia vào dự án hay không.

Vào tháng 11 năm 2016, cặp đã loại bỏ và thay thế hợp đồng năm năm ban đầu bằng một hợp đồng khác - đưa ra các bước quản trị thông tin bổ sung.

Họ cũng tiếp tục tung ra ứng dụng Streams để sử dụng cho bệnh nhân ở nhiều bệnh viện NHS - bất chấp điều chỉnh bảo vệ dữ liệu của Anh, ICO, đã xúi giục một cuộc điều tra về sự sắp xếp chia sẻ dữ liệu gốc.

Và chỉ hơn một năm trước, ICO kết luận rằng NHS Foundation Trust đã không tuân thủ Luật bảo vệ dữ liệu trong các giao dịch với DeepMind của Google.

Việc kiểm toán dự án Streams là một yêu cầu của ICO.

Mặc dù, đáng chú ý là người điều tiết chưa xác nhận báo cáo Linklaters. Ngược lại, nó cảnh báo rằng nó đang tìm kiếm tư vấn pháp lý và có thể thực hiện thêm hành động.

Trong một tuyên bố trên trang web của mình, phó chủ tịch của ICO về chính sách, Steve Wood, viết: “Chúng tôi không thể xác nhận một báo cáo từ kiểm toán của bên thứ ba nhưng chúng tôi đã cung cấp phản hồi cho Royal Free. Chúng tôi cũng giữ vị trí của chúng tôi liên quan đến vị trí của họ về bảo mật y tế và trách nhiệm công bằng của sự tự tin. Chúng tôi đang tìm kiếm tư vấn pháp lý về vấn đề này và có thể yêu cầu thêm hành động. ”

Trong một phần của báo cáo liệt kê các loại trừ, Linklaters xác nhận việc kiểm tra không xem xét: “Các vấn đề bảo mật dữ liệu và bảo mật liên quan đến việc xử lý dữ liệu cá nhân về các bác sĩ lâm sàng tại Royal Free sử dụng Ứng dụng luồng”.

Vì vậy, về cơ bản là tranh cãi cốt lõi, liên quan đến cơ sở pháp lý cho Royal Free để truyền thông tin nhận dạng cá nhân trên 1,6 triệu bệnh nhân tới DeepMind khi ứng dụng đang được phát triển và không có kiến ​​thức hoặc sự đồng ý của mọi người, sẽ không bị thêm vào đây.

Và tuyên bố của Wood đã nhắc lại rằng cuộc điều tra của ICO “đã tìm thấy một số thiếu sót trong cách các hồ sơ bệnh án được chia sẻ cho thử nghiệm này”.

"[P] nghệ thuật của cam kết cam kết miễn phí Hoàng gia để hoa hồng một bên thứ ba kiểm toán. Bây giờ họ đã làm điều này và chia sẻ kết quả với ICO. Điều quan trọng bây giờ là họ sử dụng các phát hiện để giải quyết các vấn đề tuân thủ được giải quyết trong kiểm toán nhanh chóng và mạnh mẽ. Chúng tôi sẽ tiếp tục liên lạc với họ trong những tháng tới để đảm bảo điều này đang xảy ra ”, ông nói thêm.

"Điều quan trọng là các NHS Trust cân nhắc sử dụng các công nghệ mới tương tự phải trả tiền cho các khuyến nghị chúng tôi đưa ra cho Royal Free, và đảm bảo các rủi ro bảo vệ dữ liệu được giải quyết đầy đủ bằng cách sử dụng Đánh giá tác động bảo vệ dữ liệu trước khi triển khai."

Trong khi báo cáo là một điều thất vọng, với những thiếu sót lịch sử rõ rệt, nó làm tăng một số điểm đáng chú ý - bao gồm cả việc đề xuất rằng Royal Free có lẽ sẽ hủy bỏ Biên bản ghi nhớ cũng được ký kết với DeepMind, trong đó cặp đặt ra tham vọng của họ để áp dụng AI cho dữ liệu NHS.

Điều này được khuyến khích bởi vì các cặp dường như đã bỏ kế hoạch nghiên cứu AI của họ.

Trên Linklaters này viết: "DeepMind đã thông báo với chúng tôi rằng họ đã từ bỏ dự án nghiên cứu tiềm năng của họ vào việc sử dụng AI để phát triển các thuật toán tốt hơn, và quá trình xử lý của họ bị giới hạn trong việc thực thi thuật toán NHS AKI ... Ngoài ra, phần lớn các điều khoản trong Biên bản ghi nhớ không ràng buộc. Các điều khoản giới hạn ràng buộc được thay thế bởi Thỏa thuận dịch vụ và Thỏa thuận xử lý thông tin được thảo luận ở trên, do đó chúng tôi cho rằng Biên bản Ghi nhớ có mức độ liên quan rất hạn chế đối với Luồng. Chúng tôi đề nghị Royal Free xem xét nếu Biên bản ghi nhớ tiếp tục có liên quan đến mối quan hệ của mình với DeepMind và, nếu nó không liên quan, chấm dứt thỏa thuận đó. ”

Trong một phần khác, thảo luận về thuật toán NHS làm nền tảng cho ứng dụng Streams, công ty luật cũng chỉ ra rằng vai trò của DeepMind trong dự án ít hơn là giúp cung cấp một wrapper ứng dụng được tôn vinh (trên thiết kế ứng dụng, dự án cũng sử dụng studio ứng dụng ở Anh, Vì vậy, DeepMind cũng không thể yêu cầu tín dụng thiết kế ứng dụng).

“Không có ý định bất kỳ sự thiếu tôn trọng nào đối với DeepMind, chúng tôi không nghĩ rằng các khái niệm củng cố các luồng là đặc biệt đột phá. Nó không, bằng bất kỳ biện pháp nào, liên quan đến trí thông minh nhân tạo hoặc học máy hoặc công nghệ tiên tiến khác. Lợi ích của Streams App thay vì xuất phát từ một giao diện thân thiện với người dùng, được hỗ trợ bởi cơ sở hạ tầng vững chắc và quản lý dữ liệu cung cấp các cảnh báo AKI và thông tin lâm sàng theo ngữ cảnh một cách đáng tin cậy, kịp thời và an toàn ”, Linklaters viết.

Những gì DeepMind đã mang lại cho dự án, và với các hợp tác NHS khác, là tiền và tài nguyên - cung cấp các tài nguyên phát triển miễn phí cho NHS tại thời điểm sử dụng và nêu rõ (khi được hỏi về mô hình kinh doanh của nó) để tính phí NHS cho các 'cải tiến' của ứng dụng này sau này.

Tuy nhiên, các dịch vụ thương mại mà gã khổng lồ công nghệ đang cung cấp cho các tổ chức khu vực công cộng dường như không được đưa ra để mở thầu.

Cũng đáng chú ý là bị loại trừ trong kiểm toán của Linklaters: Bất kỳ sự giám sát nào của luật cạnh tranh dự án, luật mua sắm công tuân thủ các quy tắc mua sắm và bất kỳ mối quan tâm nào liên quan đến hành vi chống cạnh tranh có thể xảy ra.

Báo cáo nêu bật một vấn đề lưu giữ dữ liệu có khả năng có vấn đề đối với việc triển khai luồng hiện tại, cho biết “hiện không có khoảng thời gian lưu giữ thông tin bệnh nhân trên luồng” - nghĩa là không có quy trình xóa lịch sử y tế của bệnh nhân sau khi đạt đến một độ tuổi nhất định.

“Điều này có nghĩa là thông tin về các luồng hiện đang có từ 8 năm trở lại đây”, nó lưu ý, cho thấy Royal Free có lẽ nên đặt giới hạn độ tuổi trên tuổi về thông tin chứa trong hệ thống.

Trong khi Linklaters phần lớn chú ý đến nguồn gốc rô bốt của dự án Streams, công ty luật làm cho một điểm đồng ý với ICO rằng đánh giá tác động về quyền riêng tư ban đầu cho dự án “cần được hoàn thành một cách kịp thời hơn”.

Nó cũng mô tả nó là "tương đối mỏng cho quy mô của dự án".

Đưa ra phản hồi của mình đối với nhóm kiểm soát quyền riêng tư dữ liệu y tế MedConfidential - một nhà phê bình sớm về sự sắp xếp chia sẻ dữ liệu DeepMind - không hề ấn tượng, viết: “Câu hỏi lớn nhất được đưa ra bởi Ủy viên Thông tin và Người bảo vệ dữ liệu quốc gia dường như bị thiếu - thay vào đó, báo cáo loại trừ "đánh giá lịch sử các vấn đề phát sinh trước ngày cuộc hẹn của chúng tôi".

“Báo cáo tuyên bố 'lợi ích sống còn' (tức là còn sống) của bệnh nhân là biện minh để bảo vệ chống lại“ sự kiện [mà] chỉ có thể xảy ra trong tương lai hoặc không xảy ra ”… Chỉ có 'lợi ích quan trọng' được bảo vệ ở đây là của Google và mong muốn tích trữ hồ sơ y tế của mình, nó được cho là đã được thu thập bất hợp pháp. Các lợi ích quan trọng của một bệnh nhân giả định không phải là lợi ích quan trọng của một chủ đề dữ liệu thực tế (và các bài kiểm tra GDPR là unmetlyly unmet).

“ICO và NDG đã yêu cầu Royal miễn phí để biện minh cho việc thu thập 1,6 triệu hồ sơ bệnh án và ý kiến ​​pháp lý này rõ ràng không cung cấp câu trả lời cho câu hỏi đó”.

Có thể bạn quan tâm