Очень простой пример с яблоком — сначала OpenAI показывают фотографию яблока на подставке, и ИИ с точностью в 85,6% определяет на изображении именно яблоко. Но стоит приклеить на то же яблоко стикер с надписью «iPod», чтобы машинное зрение распознало на изображении именно iPod, а не яблоко со стикером. Аналогичным образом поступили с изображением собаки — на оригинальном фото OpenAI определяет пуделя, но стоит добавить поверх фото изображения знака доллара, как машинное зрение путается, определяя свинку-копилку. Связано это, естественно, с умением искусственного интеллекта распознавать текст.
Данный тип ошибки называется «типографическим» — из-за того, что ИИ отлично распознаёт текст, даже рукописный, отдавая предпочтение данной информации, сбить механизм определения объектов очень легко. Машина просто не может понять, что перед ней именно яблоко с надписью, а не сама надпись. И, если верить создателям OpenAI, решить данную проблему куда сложнее, чем ошибку, связанную с распознаванием объектов с шумами на изображении. Видимо, при всей продвинутости искусственного интеллекта и развитости машинного зрения, технология ещё требует множества доработок.
Источник: