Прозрачность - отдельная тема, интересная и глубокая
>>3. Доступность для анализа. Разработка и развертывание AI в Министерстве обороны США будет прозрачной, основанной на проверяемых методологиях, источниках данных, процедурах проектирования и документации. Персонал должен иметь надлежащее понимание технологий, процессов разработки и методов работы, применяемых при этом.
>Прозрачной для кого? Разработчиков конечного кода? В жизни не поверю. Не было такого и никогда не будет.
Речь идёт о том, что при работе с нейросетями можно получить результат, но нельзя получить строгое объяснение, почему результат именно таков. Прямо как у людей :-), но с людьми это типа терпимо, а с компьютером нельзя.
Есть направление разработки нейросетей, из которых можно получать промежуточные вменяемые результаты. Но такие сети намного, в разы и на порядки, больше потребляют вычислительных ресурсов или, что то же самое, очень медленно работают.
На самом деле всё ещё хуже: дело идёт к тому, что настоящие решения в перспективе будут вырабатываться на квантовых компьютерах, а там промежуточные пояснения невозможно получить теоретически.
Думаю, что тамошние специалисты всё это прекрасно понимают - но, применяя AI в вооружениях, они обязательно столкнутся с критикой "машина бесконтрольно убивает человека". Потому - приходится хотя бы на уровне деклараций заявлять "мы контролируем всё".
