ШІ навчили пояснювати лікарям свої рішення

Міжнародна група вчених створила модель штучного інтелекту (ШІ) для ефективної діагностики захворювання легенів. Дослідження опубліковано в журналі Frontiers in Computer Science.

Фахівці зазначили, що популярні версії ШІ можуть припускатися серйозних помилок, діагностуючи різні захворювання. Також лікарі не можуть повністю довіряти моделям, бо часто не знають, на основі чого штучний інтелект дійшов того чи іншого висновку. Науковці створили модель, здатну ефективно визначати респіраторні захворювання та пояснювати, чому було ухвалено те чи інше рішення.

У процесі діагностики навчена модель переглядає записи УЗД легенів, вивчаючи кожен кадр і оцінюючи ситуацію в динаміці. За словами автора дослідження Ніуша Шафіабаді, точність у діагностуванні захворювань досягла 96,57 відсотка - результати підтвердили незалежні фахівці.

Крім того, під час вивчення записів модель може пояснювати лікарям, чому вона дійшла того чи іншого висновку. Зокрема, система покладається на теплові карти і метод фокусування зображень. За словами Шафіабаді, нова ШІ-модель підкріплює свої висновки доказами. На думку дослідників, подібні системи можна використовувати для діагностування туберкульозу, астми, раку, хронічних захворювань легенів і легеневого фіброзу.

Наприкінці січня вчені Массачусетського технологічного інституту заявили, що ШІ виявився нездатним діагностувати рак через дефіцит даних для навчання. Також з'ясувалося, що якісні навчальні матеріали мають занадто великий розмір.