Изменения

<!--{{В разработке}}-->

'''[[:Распознавание_текста_на_изображении|Распознавание текста]]''' {{---}} важная задача машинного обучения, решение которой позволит получать огромное количество информации из окружающего мира без участия человека. '''Распознавание изогнутого текста''', в частности, одна из проблем, лежащих на пути решения данной задачи.<br>

Людей== Введение ==В решении задачи распознавания текста двумя основными составляющими являются определение области текста и распознавание содержимого области. В сообществе исследователей выделяют три разных вида ориентации текста: горизонтальная (англ. horizontal), работающих в данном направлениимножественная (англ. multi-oriented), для удобства условно будем называть изогнутая (англ. curved). Очевидно, что правильность определения области текста напрямую влияет на качество работы распознающих моделей. Долгое время распознавание изогнутого текста казалось крайне сложной задачей {{---}} до тех пор, пока не появились способы весьма точно определять контуры объектов на изображениях (например, Mask R-CNN<ref name="исследователямиrcnn">[https://arxiv.org/pdf/1703.06870.pdf Mask R-CNN, Kaiming He, Georgia Gkioxari, Piotr Dollar, Ross Girshick]</ref>). Использование методов сегментации изображения позволяет добиться хороших результатов на существующих наборах данных.<br>В этой статье будут описаны наборы данных, поспособствовавшие исследованиям, а также новейшие и наиболее удачные модели, которые показывают хорошие результаты вне зависимости от ориентации текста. Модели разделены на три категории:*модели, занимающиеся только детекцией (они находят группы букв на изображении, а распознавание непосредственно слов разработчики делегируют другим инструментам).*модели, которые занимаются только распознаванием.*модели, которые занимаются и детекцией, и распознаванием {{---}} сквозные модели (англ. end-to-end).

== Вступление ==При дальнейшем чтении статьи могут возникнуть вопросы относительно методов измерения точности моделей. В решении задачи распознавания текста двумя основными составляющими являются определение области текста качестве меры точности используется [[:Оценка_качества_в_задачах_классификации|F-мера]] (совместно с precision и распознавание содержимого областиrecall). В сообществе исследователей выделяют три разных вида ориентации задаче распознавания текста precision {{-- horizontal-}} это количество правильно распознанных слов из общего числа слов, multiкоторые модель сумела найти на изображениях; recall {{-oriented--}} это количество правильно распознанных слов из всех слов, curved (услпредставленных в наборе данных. горизонтальнаяВ задаче детекции текста для различных наборов данных используются различные протоколы оценки, множественная, изогнутая). Очевидно, что правильность определения области текста напрямую влияет на качество работы распознающих моделей. Долгое время распознавание изогнутого текста казалось крайне сложной задачей - до тех порс помощью которых определяется recall и precision, пока не появились способы весьма точно определять контуры объектов на изображениях ([см./например] Mask Rпотом высчитывается F-CNN). Использование методов сегментации изображения позволяет добиться хороших результатов на существующих датасетахмера.

== Существующие модели и датасеты Наборы данных ==Датасеты, способствовавшие исследованиям в области распознавания изогнутого текста:*TotalText*SCUT-CTW1500

Здесь будут представлены только наиболее удачные модели=== TotalText (2017) ===Предшествующие TotalText'у наборы данных [[:Известные_наборы_данных#ICDAR|ICDAR]]'03<ref name="icdar03">[http://www.iapr-tc11.org/mediawiki/index.php/ICDAR_2003_Robust_Reading_Competitions S.M. Lucas et al, "ICDAR 2003 Robust Reading Competition"]</ref>, '11<ref name="icdar11">[http://www.cvc.uab.es/icdar2011competition/images/Report_RobustReading_Challenge1_final.pdf D. Karatzas, S. Robles Mestre, J. Mas, F. Nourbakhsh, P. Pratim Roy, "ICDAR 2011 Robust Reading Competition"]</ref>, '13<ref name="icdar13">[http://dagdata.cvc.uab.es/icdar2013competition/ D. Karatzas, F. Shafait, S. Uchida, M. Iwamura, L. Gomez, S. Robles, J. Mas, D. Fernandez, J. Almazan, L.P. de las Heras, "ICDAR 2013 Robust Reading Competition"]</ref> и MSRA-TD500<ref name="msra">[http://www.iapr-tc11.org/dataset/MSRA-TD500/Detecting_Texts_of_Arbitrary_Orientations_in_Natural_Images.pdf C. Yao, X. Bai, W. Liu, Y. Ma and Z. Tu, которые показывают хорошие результаты вне зависимости от ориентации "Detecting Texts of Arbitrary Orientations in Natural Images"]</ref> сыграли значимую роль в начале исследований в области распознавания текста.Мы разделим модели У наборов данных [[:Известные_наборы_данных#ICDAR|ICDAR]]<ref name="icdar03"/><ref name="icdar11"/><ref name="icdar13"/><ref name="icdar15"/> тексты встречались в единственной ориентации {{---}} горизонтальной, и на две категории: этом предположении были основаны многие ранние модели. Границы текста они определяли как прямоугольник. Это ограничивало возможности распознавания, и для привлечения внимания исследователей к этой проблеме в 2012 году был представлен набор данных MSRA-TD500<ref name="msra"/>, занимающиеся только детекцией включавший в себя большое количество изображений с множественной ориентацией текста (они находят группы букв на изображенииот горизонтальной отличается тем, а распознавание непосредственно слов разработчики делегируют другим инструментамчто область с текстом находится под наклоном или/и в перспективе). Модели были усовершенствованы, и моделитеперь определяли границы как произвольных форм четырёхугольники. Текст же изогнутой формы, несмотря на частоту появления в реальном окружении, практически не появлялся в наборах данных (искл. [[:Известные_наборы_данных#COCO|COCO-text]]<ref name="coco">[https://arxiv.org/pdf/1601.07140.pdf A. Veit, T. Matera, L. Neumann, J. Matas, S. Belongie, которые занимаются "COCO-Text: Dataset and Benchmark for Text Detection and Recognition in Natural Images"]</ref> и детекциейCUTE80<ref name="cute">[http://cs-chan.com/doc/ESWA_2014A.pdf A. Risnumawan, P. Shivakumara, C.S. Chan and C.L. Tan, "A Robust Arbitrary Text Detection System for Natural Scene Images"]</ref>, и распознаваниемно они не привлекли особого внимания к проблеме). Поэтому справиться с произвольной формой текста многие модели попросту не могли.

Модели только для детекцииДля привлечения внимания к этой проблеме в 2017 году был представлен набор данных TotalText, состоящий из 1555 изображений с текстом различной ориентации и содержащий в целом 9330 слов. Отличительной особенностью TotalText является ''эталон'' области (или же границ) текста. Так, в [[:*TextSnake*TextFuseNet*PolyPRNetИзвестные_наборы_данных#COCO|COCO-text]]<ref name="coco"/> эталоном области текста являлся горизонтально ориентированный прямоугольник, а вот в TotalText это был многоугольник, состоящий из множества полигонов.

Модели endВ качестве протокола оценки используется DetEval<ref name="deteval">[https://perso.liris.cnrs.fr/christian.wolf/software/deteval/ C. Wolf and J.-to-end:*CRAFTS*MANGO*Text Perceptron*ASTS_Weakly*BoundaryM. Jolion, “Object count/area graphs for the evaluation of object detection and segmentation algorithms” (2006)]</ref>.

== Датасеты =SCUT-CTW1500 (2017) ===SCUT-CTW1500 должен был привлечь внимание к той же проблеме, что и TotalText. Они были опубликованы практически одновременно (TotalText 27 октября 2017, а SCUT-CTW1500 6 декабря 2017). Вероятно, они разрабатывались независимо друг от друга {{---}} авторы SCUT-CTW1500 утверждали, что они являются первооткрывателями полигонального подхода, хотя TotalText был опубликован немного раньше. Позднее авторы TotalText добавили ссылку на SCUT-CTW1500 в качестве дополнения к своему набору данных. SCUT-CTW1500 включает в себя 1500 изображений (1000 для обучения, 500 для проверки), на которых содержится более 10 тысяч областей с текстом, и на каждом изображении как минимум один раз встречается изогнутый текст. Здесь, как и в TotalText, эталоном области является фигура, состоящая из нескольких полигонов. Оба этих набора данных (и модели, обученные на них) стали прорывом {{---}} они первые начали использовать полигональную форму.

=== TotalText (2017) ===Предшествующие Сейчас TotalText'у датасеты ICDAR'03, '11, '13 и MSRASCUT-TD500 сыграли значимую роль в начале исследований в области распознавания текста. У датасетов ICDAR тексты встречались в единственной ориентации - горизонтальной, и на этом предположении были основаны многие ранние модели. Границы текста они определяли CTW1500 все реже используются как прямоугольникдва независимых набора данных. Это ограничивало возможности распознавания, и для привлечения внимания исследователей к этой проблеме в 2012 году был представлен датасет MSRA-TD500, включавший в себя большое количество изображений с множественной ориентацией текста (от горизонтальной отличается тем, что область с текстом находится под наклоном илиНабор данных ArT<ref name="art">[https://и в перспективе)arxiv. Модели были усовершенствованы, и теперь определяли границы как произвольных форм четырёхугольникиorg/pdf/1909. Текст же изогнутой формы, несмотря на частоту появления в реальном окружении, практически не появлялся в датасетах (искл07145. COCOpdf "ICDAR2019 Robust Reading Challenge on Arbitrary-text Shaped Text {{---}} RRC-ArT"]</ref> объединил их в себе и CUTE80, но они не привлекли особого внимания к проблеме). Поэтому справиться с произвольной формой стал самым большим набором данных изогнутого текста многие модели попросту не могли.

Для привлечения внимания к этой проблеме в 2017 году был представлен датасет TotalText, состоящий из 1555 изображений с текстом различной ориентации и содержащий в целом 9330 слов. Отличительной особенностью TotalText Протоколом оценки является ''Groundtruth'' области (или же границ) текста. Groundtruth (PASCAL VOC<ref name="основная истинаpascvoc") - это термин>[https://homepages.inf.ed.ac.uk/ckiw/postscript/ijcv_voc09.pdf M. Everingham, используемый для обозначения информацииL. Van Gool, предоставляемой прямым наблюдением (в отличие от информацииC. K. Williams, предоставляемой предположением)J. В данном случае под термином groundtruth подразумевается значениеWinn, которое в идеале должна предсказать модельand A. ТакZisserman, в COCO-Text groundtruth области текста был прямоугольник, а вот в TotalText это был многоугольник, состоящий из множества полигонов. === SCUT-CTW1500 "The pascal visual object classes (2017voc) ===SCUT-CTW1500 должен был привлечь внимание к той же проблеме, что и TotalText. Они были опубликованы практически одновременно challenge" (TotalText 27 октября 2017, а SCUT-CTW1500 6 декабря 20172010). Вероятно]</ref> протокол, они разрабатывались независимо друг от друга - авторы SCUT-CTW1500 утверждали, что они являются первооткрывателями полигонального подхода, хотя TotalText был опубликован немного раньше. Позднее авторы TotalText добавили ссылку на SCUT-CTW1500 в качестве дополнения к своему датасету. SCUT-CTW1500 включает в себя 1500 изображений где используется метрика [[:Задача_нахождения_объектов_на_изображении|IoU]] (1000 граничное значение для обучения, 500 для проверки), на которых содержится более 10 тысяч областей с текстом, и на каждом изображении как минимум один раз встречается изогнутый текст. Здесь, как и в TotalText, groundtruth определения true или false positive {{- фигура, состоящая из нескольких полигонов. Оба этих датасета (а точнее, модели, обученные на них) стали прорывом - они первые начали использовать полигональный groundtruth. В 2021 году TotalText и SCUT-CTW1500 уже не используются как два независимых датасета}} 0. Датасет ArT объединил их в себе и стал самым большим датасетом изогнутого текста5).

[[Файл:Ts pip.png|500px|right|thumb|Рисунок 2. Схема работы TextSnake<ref name="textsnake"/>]]Схема работы TextSnake представлена справа (см. Рисунок 2). TextSnake использует сверточную [[:Сверточные_нейронные_сети|свёрточную нейронную сеть]]. Чтобы определять текст произвольной формы, используется FCN (Fully Convolutional Network)<ref name="fcn">[https://arxiv.org/pdf/1411.4038.pdf Jonathan Long, Evan Shelhamer, Trevor Darrell, "Fully Convolutional Networks for Semantic Segmentation" (2015)]</ref> модель для предсказывания геометрических атрибутов текстовых областей. С помощью FCN<ref name="fcn"/> и FPN (Feature Pyramid Network)<ref name="fpn">[https://arxiv.org/pdf/1612.03144.pdf Lin, T.Y., Dollar, P., Girshick, R., He, K., Hariharan, B., Belongie, S., "Feature pyramid networks for object detection"]</ref> предсказываются вероятностные карты центральной линии (text center line, TCL) и текстовых областей (text regions, TR), вместе с геометрическими атрибутами <math>r, cosθ, sinθ</math>. Карта TCL в дальнейшем маскируется картой TR (TCL, по сути, является частью TR). Для сегментации используется непересекающийся набор, подробная так как центральные линии не перекрывают друг друга. Далее извлекаются списки точек центральной оси и восстанавливаются экземпляры текста. Детальная архитектура которой представлена на изображенииниже (см. Рисунок 3):

[[file:TextSnakeArchitecture.png|500px|left|thumb|Рисунок 3. Архитектура TextSnake<ref name="textsnake"/>]]<br clear=all>

[[:Оценка_качества_в_задачах_классификации|F-мера]]:*TotalText: 78.4%*CTW1500: 75.6%<br clear=all>

==== Краткое описание и особенности Архитектура ====[[file:tfn_arch.png|800px|left|thumb|Рисунок 4. Архитектура TextFuseNet<ref name="textfusenet">[https://www.ijcai.org/Proceedings/2020/0072.pdf Jian Ye, Zhe Chen, Juhua Liu, Bo Du, "TextFuseNet: Scene Text Detection with Richer Fused Features" (2020)]</ref>]]<br clear=all>Основной особенностью Общая архитектура TextFuseNet является выделение бóльшего количества признаков представлена выше (см. Рисунок 4). В качестве основы для FPN<ref name="fpn"/> используется ResNet50<ref name="resnet"/>, на этом этапе извлекаются общие признаки. Выходные данные используются RPN (Region Proposal Network)<ref name="rpn"/> и их слияние ветвью Semantic Segmentation. RPN<ref name="rpn"/> используется для более точного определения генерации предполагаемых текстовых областей, что используется в последующих ветках Detection и Mask. TextFuseNet опирается *Сначала в ветви Semantic Segmentation с помощью сегментации определяются признаки на глобальном уровне.*Далее в ветви Detection, извлекаются признаки на словесном уровне и объединяются с признаками глобального уровня. Полученное представление используется для регрессии окружающей рамки и классификации объектов (текста/букв).*Потом в ветви Mask R-CNN извлекаются признаки на символьном уровне. Все три уровня признаков (символьный, словесный и Mask TextSpotter глобальный) объединяются, и рассматривает детекцию полученное представление используется при сегментации экземпляров (instance segmentation) для объектов, полученных в ветви Detection.При объединении признаков используется модуль Multi-Path Fusion, общая схема работы которого представлена ниже (Рис. 5):  <br clear=all>[[file:tfn_mpf.png|500px|left|thumb|Рисунок 5. Работа модуля multi-path fusion<ref name="textfusenet"/>]]<br clear=all> ==== Точность ====[[:Оценка_качества_в_задачах_классификации|F-мера]]:*Total-Text: 87.1%*CTW1500: 86.6%<br clear=all> === PolyPRNet (2020) ===Отличительной чертой PolyPRNet является способ представления текста . Для области с текстом модель определяет центральную линию как задачу сегментацииполином степени <math>n</math>. Эта центральная линия определяет общую форму и плавность текста. Но отличительной особенностью данной модели является выделение признаков Для её построения используется набор <math>k</math> путевых точек, расположенных на трёх уровнях: буквенноммедиальной оси текстовой области (полиномиальная центральная линия должна максимально точно проходить путевые точки). Для описания таких локальных свойств, как ширина линии (то есть высота текста) и ориентация, используется набор <math>m</math> линий широты. Линия широты пересекается с центральной линией, и описывается с помощью параметров <math>x_i, y_i, l_a, l_b</math> и <math>θ_i</math>, где <math>x_i</math> и <math>y_i</math> {{---}} координаты начала линии широты, <math>l_a</math> и <math>l_b</math> {{---}} длина различных частей линии, <math>θ_i</math> {{---}} угол линии широты относительно оси <math>y</math>. Геометрическая модель текстовой области состоит из центральной линии <math>\{a_n, a_{n-1}, словесном .. a_0\}</math> и глобальномпараметров <math>\{x_i, y_i, l_{ai}, l_{bi}, θ_i\}</math> линий широты (см. Рисунок 6).<br>Статья о модели доступна по [https://openaccess.thecvf.com/content/ACCV2020/papers/Shi_Accurate_Arbitrary-Shaped_Scene_Text_Detection_via_Iterative_Polynomial_Parameter_Regression_ACCV_2020_paper.pdf ссылке].<br clear=all>[[file:Pprnet text.png|800px|thumb|left|Рисунок 6. Геометрическая модель текстовой области PolyPRNet<ref name="polyprnet">[https://openaccess.thecvf.com/content/ACCV2020/papers/Shi_Accurate_Arbitrary-Shaped_Scene_Text_Detection_via_Iterative_Polynomial_Parameter_Regression_ACCV_2020_paper.pdf Jiahao Shi, Long Chen, Feng Su, "Accurate Arbitrary-Shaped Scene Text Detection via Iterative Polynomial Parameter Regression" (2020)]</ref>]]<br clear=all>

PolyPRNet использует двухступенчатую структуру на основе R-CNN<ref name="rcnn"/>. Схема архитектуры представлена ниже (см. Рисунок 7).На первой стадии используется ResNet50 (Residual Network)<ref name="resnet">[https://arxiv.org/pdf/1512.03385.pdf He, K., Zhang, X., Ren, S., Sun, J., "Deep residual learning for image recognition" (2016)]</ref> и FPN<ref name="fpn"/>, чтобы получить карты признаков из исходного изображения. Далее используется сеть RPN<ref name="rpn">[https://arxiv.org/pdf/1506.01497.pdf Ren, S., He, K., Girshick, R.B., Sun, J., "Faster R-CNN: towards real-time object detection with region proposal networks" (2015)]</ref> для формирования набора предложенных областей текста. На второй стадии используется модуль R-CNN<ref name="rcnn"/> с ветками регрессии границы (bounding box regression) и классификации, чтобы точнее локализовать предложенные области. Так же используется модуль Polynomialbased shape Parameter Regression (PPR), чтобы вывести форму и направление потенциального текстового кандидата. <br clear=all>[[file:tfn_archPprnet arch.png|800px|left|thumb|Рисунок 7. Архитектура PolyPRNet<ref name="polyprnet"/>]]<br clear=all> ==== Точность ====[[:Оценка_качества_в_задачах_классификации|F-мера]]:*Total-Text: 84.6%*CTW1500: 83.4%<br clear=all> == Модели для распознавания ==Распознающие текст модели в качестве входных данных принимают изображение, где должна находиться одна строка текста. Точность распознавания этих моделей тестировалась на наборах данных, где за эталон принимается прямоугольная окружающая рамка (например, CUTE80<ref name="cute"/>, [[:Известные_наборы_данных#ICDAR|ICDAR]]'15<ref name="icdar15">[https://rrc.cvc.uab.es/files/Robust-Reading-Competition-Karatzas.pdf D. Karatzas, L. Gomez-Bigorda, A. Nicolaou, S. Ghosh, A. Bagdanov, M. Iwamura, J. Matas, L. Neumann, V. Ramaseshan Chandrasekhar, S. Lu, F. Shafait, S. Uchida, E. Valveny, "ICDAR 2015 Competition on Robust Reading"]</ref>).<br>=== ESIR: End-to-end Scene Text Recognition via Iterative Image Rectification (2018) ===

Общая архитектура TextFuseNet представлена выше[[Файл:Esir line. Для получения глобального представления используется семантическая сегментацияpng|300px|thumb|left|Рисунок 8. ДалееПовторяющая линия<ref name="esir"/>]]ESIR использует итеративное выпрямление изображения, которое исправляет искажения, связанные с перспективой и кривизной. Для этого с помощью Mask R-CNN в ветвях Detection полинома моделируется средняя линия текстовой области. В дополнение, определяются направление и Mask определяются признаки высота области текста на буквенном и словесном уровняхмножестве сегментов линии. Для слияния уровней используется модуль multi-path fusion Среднюю линию с дополнительными параметрами назовём "повторяющей линией" (представлено снизусм. Рисунок 8), что позволяет TextFuseNet изучать более дифференцированное представление и выдавать более точные результаты детекции текста.

Представление центральной линии: <math>y = a_K ∗ x^K + a_{K−1} ∗ x^{K−1} + ... + a_1 ∗ x + a_0</math>, где <math>K</math> {{---}} степень полинома. Дополнительные параметры представлены в виде линии: <math>y = b_{1,l} ∗ x + b_{0,l} | r_l, l = 1, 2, ... , L</math>, где <math>L</math> {{---}} количество линий.<br>Статья о модели доступна по [https://arxiv.org/pdf/1812.05824.pdf ссылке].<br clear=all> ==== Архитектура ====ESIR состоит из двух частей:[[file:tfn_mpfEris loc.png|500px300px|thumb|right|Рисунок 9. Сеть локализации<ref name="esir">[https://arxiv.org/pdf/1812.05824.pdf Fangneng Zhan, Shijian Lu, "ESIR: End-to-end Scene Text Recognition via Iterative Image Rectification" (2018)]</ref>]]*Iterative Rectification Network (сеть итеративного выравнивания) (см. Рисунок 9). Сначала просчитываются параметры повторяющей линии, для чего используется сеть локализации вместе со свёртками изображений. После, основываясь на полученных параметрах, изображение выравнивается, и снова передаётся в сеть выравнивания. Этот процесс повторяется до тех пор, пока не будет достигнуто заранее установленное количество итераций. На схеме ниже (см. Рисунок 9) представлена общая схема работы Iterative Rectification Network. Детальная структура сети локализации представлена в таблице (см. Рисунок 10).[[Файл:Esir arch.png|800px|thumb|left|Рисунок 10. Iterative Rectification Network<ref name="esir"/>]]<br clear=all>*Recognition Network (сеть распознавания). Используется [[:Рекуррентные_нейронные_сети#Seq-2-seq_.D1.81.D0.B5.D1.82.D0.B8|sequence-to-sequence]] модель с [[:Механизм_внимания|механизмом внимания]]. Система состоит из кодера и декодера. В кодировщик поступает выпрямленное изображение текста размером 32x100 пикселей. Используется 53-слойная ResNet<ref name="resnet"/> для извлечения признаков, за ResNet следует два слоя двунаправленной [[:Долгая_краткосрочная_память|LSTM]]. Декодер использует LuongAttention<ref name="luong">[https://arxiv.org/pdf/1508.04025.pdf Minh-Thang Luong, Hieu Pham, and Christopher D. Manning, "Effective approaches to attention-based neural machine translation" (2015)]</ref> механизм. На этапе вывода используется алгоритм поиск луча<ref name="beam">[https://en.wikipedia.org/wiki/Beam_search Beam Search - Wikipedia]</ref> (англ. beam search).

[[:Оценка_качества_в_задачах_классификации|F-мера]]:*Total-Text[[:Известные_наборы_данных#ICDAR|ICDAR]]'15<ref name="icdar15"/>: 8776.19%*CTW1500CUTE80<ref name="cute"/>: 8683.63%<br clear=all>

=== PolyPRNet MORAN: A Multi-Object Rectified Attention Network (2019) ===[[Файл:Moran morn.png|thumb|left|200px|Рисунок 11. Схема выпрямления<ref name="moran">[https://arxiv.org/pdf/1901.03003.pdf Canjie Luo, Lianwen Jin, Zenghui Sun, "MORAN: A Multi-Object Rectified Attention Network for Scene Text Recognition" (2019)]</ref>]]Текст на изображениях часто оказывается не просто изогнут, а деформирован разными способами и в нескольких направлениях (например, изогнутый текст + перспектива). Это учитывалось при разработке выпрямляющего модуля MORAN, что и является отличительной особенностью этой модели (см. Рисунок 11).<br>Статья о модели доступна по [https://arxiv.org/pdf/1901.03003.pdf ссылке]. Реализацию этой модели можно найти в [https://github.com/sdll/moran открытом доступе].<br clear=all>

==== Краткое описание и особенности Архитектура ====Отличительной чертой PolyPRNet является способ представления текста[[Файл:Moran arch. Для области с текстом модель определяет центральную линию как полином степени npng|650px|thumb|right|Рисунок 12. Эта центральная линия определяет общую форму Архитектура всей модели MORAN<ref name="moran"/>]]MORAN состоит из двух частей: MORN (Multi-Object Rectification Network) и плавность текстаASRN (Attention-based Sequence Recognition Network) (см. Для её построения используется набор k путевых точек, расположенных на медиальной оси текстовой области (полиномиальная центральная линия должна максимально точно проходить путевые точкиРисунок 12):*MORN отвечает за выпрямление. Для описания таких локальных свойств, как ширина линии Архитектура MORN представлена ниже (тсм.еРисунок 13). высота текстаЗа каждым (за исключением последнего) свёрточным слоем следует слой [[:Batch-normalization|батчевой нормализации]] и ориентацияслой [[:Практики_реализации_нейронных_сетей#:~:text=Функция%20ReLU%5Bправить%5D,аргумента%2C%20функция%20возвращает%20само%20число|ReLU]]. MORN делит изображение на несколько частей, после чего предсказывает смещение для каждой части. Предсказанное смещение используется набор m линий широтыдля выпрямления.*ASRN отвечает за распознавание. Архитектура ASRN представлена ниже (см. Линия широты пересекается с центральной линиейРисунок 14). Основной структурой ASRN является фреймворк CNN-BLSTM (архитектура, в которой используется [[:Сверточные_нейронные_сети|CNN]] для извлечения признаков и описывается с помощью параметров xiдвунаправленная [[:Долгая_краткосрочная_память|LSTM]] для предсказания последовательностей)<ref name="cnnblstm">[https://arxiv.org/pdf/1411.4389.pdf J. Donahue, L. A. Hendricks, M. Rohrbach, yiS. Venugopalan, laS. Guadarrama, lb и θiK. Saenko, где xi и yi T. Darrell "Long- координаты начала линии широтыterm Recurrent Convolutional Networks for Visual Recognition and Description" (2016)]</ref>. В верхних слоях CRNN<ref name="crnn">[https://ieeexplore.ieee.org/document/7801919 B. Shi, X. Bai, la и lb and C. Yao, "An end-to-end trainable neural network for image-based sequence recognition and its application to scene text recognition" (2017)]</ref> применяется одномерный механизм внимания. Далее используется attention- длина различных частей линииbased декодер (GRU) <ref name="gru">[https://arxiv.org/pdf/1406.1078.pdf K. Cho, θi - угол линии широты относительно оси yB. Геометрическая модель текстовой области состоит из центральной линии {anvan Merrienboer, an-1C. Gulcehre,D.Bahdanau, F. a0} и параметров {xiBougares, yiH. Schwenk, laiY. Bengio, lbi"Learning phrase representations using RNN encoderdecoder for statistical machine translation" (2014)]</ref>, θiоснованный на [[:Рекуррентные_нейронные_сети|RNN]].{|-|[[Файл:Moran morn arch.png|300px|thumb|right|Рисунок 13. Архитектура MORN<ref name="moran"/>]]| style="width:350px" | [[Файл:Moran asrn arch.png|300px|thumb|right|Рисунок 14. Архитектура ASRN<ref name="moran"/>]]|-|} линий широты<!--[[Файл:Moran morn arch.png|300px|thumb|right|Рисунок 13. Архитектура MORN<ref name="moran"/>]][[Файл:Moran asrn arch.png|300px|thumb|right|Рисунок 14.Архитектура ASRN<ref name="moran"/>]]--><br clear=all>

==== Точность ====[[file:Pprnet textОценка_качества_в_задачах_классификации|F-мера]]:*[[:Известные_наборы_данных#ICDAR|ICDAR]]'15<ref name="icdar15"/>: 68.png|800px8%*CUTE80<ref name="cute"/>: 77.4% == Сквозные (end-to-end) модели == === Mask TextSpotter (2018) ===Mask TextSpotter является одной из первых E2E (end-to-end) моделей, тренированных на наборе данных TotalText. Она не была призвана распознавать именно изогнутый текст, но отличительной чертой модели Mask TextSpotter являлось как раз то, что она сравнительно неплохо с ним справлялась. Разработчики Mask TextSpotter применили недавно опубликованную нейронную сеть с архитектурой Mask R-CNN<ref name="rcnn"/> для выделения контуров объектов на изображении, которая и позволила сделать шаг вперед в распознавании изогнутого текста.<br>Статья о модели доступна по [https://openaccess.thecvf.com/content_ECCV_2018/papers/Pengyuan_Lyu_Mask_TextSpotter_An_ECCV_2018_paper.pdf ссылке]. Реализацию этой модели можно найти в [https://github.com/MhLiao/MaskTextSpotter открытом доступе].

PolyPRNet Для первичной обработки изображения Mask TextSpotter использует двухступенчатую структуру на основе R-CNN. Схема архитектуры представлена ниже.На первой стадии используется ResNet50 и Feature Pyramid Network (FPN), чтобы получить карты признаков из исходного изображения. Далее используется <ref name="resnet"/> остаточную [[:Сверточные_нейронные_сети|свёрточную нейронную сеть RPN для формирования набора предложенных областей текста. На второй стадии используется модуль R-CNN с ветками регрессии границы (bounding box regression) и классификации, чтобы точнее локализовать предложенные области. Так же используется модуль Polynomialbased shape Parameter Regression (PPR), чтобы вывести форму и направление потенциального текстового кандидата]].

Затем над изображением работает RPN<ref name="rpn"/> нейронная сеть, которая выполняет базовый поиск областей текста на изображении. RPN<ref name="rpn"/> может выявлять символы разных форм и размеров. Уже размеченный текст более детально обрабатывается Fast R-CNN<ref name="rcnn"/> нейронной сетью. Её задачи принципиально ничем не отличаются от задач RPN<ref name="rpn"/>, Fast R-CNN<ref name="rcnn"/> лишь доводит дело до конца. Завершает работу этап детекции по маске. Сначала он разбивает полученные области текста на слова, а затем внутри слов распознает отдельные символы. На этом этапе можно настраивать локализацию. Затем данные проходят небольшой пост-процессинг перед достижением итогового результата. Примерная визуализация архитектуры представлена ниже (см. Рисунок 15).<br clear=all>[[file:Pprnet archArchitectureMaskTextSpotter.png|800px|left|thumb|Рисунок 15. Архитектура Mask TextSpotter<ref name="masktextspotter">[https://openaccess.thecvf.com/content_ECCV_2018/papers/Pengyuan_Lyu_Mask_TextSpotter_An_ECCV_2018_paper.pdf Pengyuan Lyu, Minghui Liao, Cong Yao, Wenhao Wu, Xiang Bai, "Mask TextSpotter: An End-to-End Trainable Neural Network for Spotting Text with Arbitrary Shapes" (2018)]</ref>]]<br clear=all>

[[:Оценка_качества_в_задачах_классификации|F-мера]]:*Total-TextTotalText (Detection): 8461.63%*CTW1500TotalText (E2E, без словаря): 8352.49%*TotalText (E2E, со словарём): 71.8%<br clear== Модели end-to-end ==all>

CRAFTS состоит из трех слоев: слоя детекции, коммуникации и распознавания. Данные, проходя через три этих этапа, на выходе представляют собой готовый end-to-end результат в качестве распознанных слов(см. Рисунок 16).<br clear=all>[[file:CraftsArchitectureFull.png|800px|thumb|left|Рисунок 16. Архитектура CRAFTS<ref name="crafts">[https://arxiv.org/pdf/2007.09629.pdf Youngmin Baek, Seung Shin, Jeonghun Baek, Sungrae Park, Junyeop Lee, Daehyun Nam, Hwalsuk Lee, "Character Region Attention For Text Spotting" (2020)]</ref>]]<br clear=all>На этапе детекции CRAFTS использует ResNet50<ref name="resnet"/> остаточную [[:Сверточные_нейронные_сети|свёрточную нейронную сеть]] для первичной обработки изображения. На основе полученного результата определяется направление и границы сначала областей текста, а затем отдельных символов в них. На выходе получается изображение с размеченными областями текста, а внутри них размеченные ориентированные конейнеры с символами (см. Рисунок 17). Данные представляются в виде таблицы признаков.<br clear=all>[[file:CraftsArchitecture2.png|800px|thumb|left|Рисунок 17. Подробная схема работы слоя детекции<ref name="crafts"/>]]<br clear=all>Слой коммуникации принимает таблицу признаков, сгенерированную на этапе детекции, и преобразовывает ее для дальнейшей передачи в слой распознавания. Это происходит в два этапа: сначала очищение текста, потом корректировка признаков.

[[file:CraftsArchitectureFullОчищение текста по сути своей является корректировкой символьных полигонов. Они выпрямляются и сглаживаются, обтекая символы. Эти преобразования происходят в три этапа трансформации сплайнов с малой шириной. Для трансформации используется 20 контрольных точек. Также на этом этапе при необходимости применяется 2D-полиномиальное сглаживание для достижения еще более точной формы полигона.png|800px]]

Для После очищения текста производится корректировка признаков: на каждый символ устанавливается точка внимания. Этот этап является ключевым по двум причинам. Во-первых, скорректированная таблица сама по себе облегчает работу слою распознавания, что значительно повышает его эффективность. Во-вторых, на данном этапе через откорректированную таблицу слой детекции и слой распознавания становятся зависимыми друг от друга. Это позволяет ошибке распознавания повлиять на работу слоя детекции CRAFTS использует ResNet50 остаточную сверточную нейронную сеть для первичной обработки изображения(см. Рисунок 18). На основе полученного результата определяется направление Такая связь оказывает внушительное влияние на качество обучения и границы сначала областей текста, а затем отдельных символов как следствие, на качество модели.<br clear=all>[[file:CraftsLossFlow.png|800px|thumb|left|Рисунок 18. Диаграмма распространения ошибки в нихCRAFTS<ref name="crafts"/>]]<br clear=all>Процесс распознавания состоит из трех частей: извлечение признаков, моделирование последовательности и непосредственно распознавание (см. Рисунок 19). Успех этапа распознавания во многом зависит от правильно расставленных точек внимания. На выходе получается изображение с размеченными областями текстаЕсли они смещены или утеряны, а внутри них размеченные ориентированные конейнеры с символамито корректное распознавание практически невозможно. Данные представляются в виде таблицы признаков<br clear=all>[[file:CraftsRecognition.png|400px|thumb|left|Рисунок 19.Архитектура слоя распознавания<ref name="crafts"/>]]<br clear=all>

==== Точность ====[[file:CraftsArchitecture2.pngОценка_качества_в_задачах_классификации|800pxF-мера]]:*Total-Text (Detection): 87.4%*Total-Text (E2E, без словаря): 78.7%<br clear=all>

Слой коммуникации принимает таблицу признаков ==== Архитектура: ====Детектор текста использует ResNet<ref name="resnet"/> и FPN<ref name="fpn"/> как основу, и реализуется путем одновременного изучения трех задач: многоклассовой семантической сегментации с учетом порядка, регрессии угла и преобразовывает ее регрессии смещения границ. STM отвечает за объединение детекции и распознания. Для этого STM генерирует доверительные точки и настраивает их позиции, на основе чего "выпрямляет" текст с помощью TPS (Thin-plate splines) для дальнейшей передачи в слой дальнейшего распознавания. Это происходит в два этапаВ модуле распознавания может использоваться любой sequence-based метод. Примерная визуализация архитектуры представлена ниже (см. Рисунок 21).<br clear=all>[[file: сначала очищение текста, потом корректировка признаковTperc arch.png|800px|left|thumb|Рисунок 21.Архитектура TextPerceptron<ref name="textperceptron"/>]]<br clear=all>

Очищение текста по сути своей является корректировкой символьных полигонов==== Точность ====[[:Оценка_качества_в_задачах_классификации|F-мера]]:*Total-Text (Detection): 85. Они выпрямляются и сглаживаются2%*Total-Text (E2E, обтекая символы. Эти преобразования происходят в три этапа трансформации сплайнов с малой ширинойбез словаря): 69. Для трансформации используется 20 контрольных точек. Также на этом этапе при необходимости применяется 2D7%*Total-полиномиальное сглаживание для достижения еще более точной формы полигонаText (E2E, со словарём): 78. 3%<br clear=all>

Полученный результат позволяет составить откорректированную таблицу признаков, ориентированную посимвольно === Boundary (на каждый символ устанавливается точка внимания2020)===[[Файл:Bound stgs. Этот этап является ключевым по двум причинамpng|500px|thumb|right|Рисунок 22. Стадии работы Boundary<ref name="boundary"/>]]Boundary при детекции использует граничные точки, чтобы максимально точно повторить контуры текстовой области. Во-первыхПосле, скорректированная таблица сама по себе облегчает работу рекогнайзеруиспользуя граничные точки, текст приводится к виду, что значительно повышает его эффективностьподходящему для распознающего модуля. Во-вторыхПеред определением граничных точек заранее определяются "коробки", на данном этапе через откорректированную таблицу слой детекции и слой распознавания становятся зависимыми друг от другав которых может находиться текст (см. Это позволяет ошибке распознавания повлиять на работу слоя детекцииРисунок 22). Такая связь оказывает внушительное влияние на качество обучения и, как следствие, на качество <br>Статья о моделидоступна по [https://arxiv.org/pdf/1911.09550.pdf ссылке].<br clear=all>

[[fileФайл:CraftsLossFlowBound arch.png|800px]] Процесс распознавания состоит из трех частей|thumb|right|Рисунок 23. Архитектура Boundary<ref name="boundary">[https: извлечение признаков, моделирование последовательности и непосредственно распознавание//arxiv.org/pdf/1911. Успех этапа распознавания во многом зависит от правильно расставленных точек внимания09550. Если они смещены или утеряныpdf Hao Wang, Pu Lu, Hui Zhang, Mingkun Yang, Xiang Bai, Yongchao Xu, Mengchao He, Yongpan Wang, то корректное распознавание практически невозможно. [[fileWenyu Liu, "All You Need Is Boundary:CraftsRecognition.png|400pxToward Arbitrary-Shaped Text Spotting" (2020)]</ref>]]

TotalText[[:Оценка_качества_в_задачах_классификации|F-мера]]:*FTotal-мера детекцииText (Detection): 87.40%*FTotal-мера Text (E2E , без словаря): 7864.71%<br clear=all>

==== Краткое описание На вход инструменту распознавания подается так называемая позиционно-ориентированная маска внимания. Она представляет собой конкатенацию двух других масок: маски областей текста и особенности ====многослойной маски точек внимания символов. Каждый слой маски символов сопоставлен с соответствующим слоем маски областей текста. Данные, представленные в таком виде (особенно важно сопоставление между двумя масками), сильно облегчают распознавание (выполняя часть работы по распознаванию заранее). Поэтому на данном этапе можно оставить лишь легковесный инструмент и не писать для распознавания отдельный слой.

Первоначальная обработка изображения происходит с помощью ResNet50<ref name="resnet"/> остаточной [[:Сверточные_нейронные_сети|свёрточной нейронной сети]].<br clear=== all>[[file:WorkflowOfMANGO.png|800px|left|thumb|Рисунок 24. Архитектура MANGO<ref name="mango">[https://arxiv.org/pdf/2012.04350.pdf Liang Qiao, Ying Chen, Zhanzhan Cheng, Xunlu Xu, Yi Niu, Shiliang Pu, Fei Wu, "MANGO: A Mask Attention Guided One-Stage Scene Text Spotter" (2021)]</ref>]]<br clear===all>

==Сводные таблицы = TextPerceptron =  === Общие данные ==={| class="wikitable"|+ Сводная таблица моделей для детекции|-! Модель !! Особенности !! Использованные методы|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''TextSnake (2018)'''</p>| style="width: 400px;" | <p style="text-align:center;">Представление области текста с помощью центральной линии и множества дисков.</p>[[Файл:Ts textreg.png|300px|center]]| style="width: 400px;" | <p style="text-align:center;">FCN<ref name="fcn"/> + FPN<ref name="fpn"/></p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''TextFuseNet (2020)'''</p>| style="width: 400px;" | <p style="text-align:center;">Выделение признаков на глобальном, словесном и символьном уровнях. Представление области текста с помощью маски.</p>[[Файл:Tfn textreg.png|300px|center]]| style="width: 400px;" |<p style="text-align:center;">ResNet50<ref name="resnet"/> + FPN<ref name="fpn"/> + Mask R-CNN<ref name="rcnn"/></p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''PolyPRNet (2020) '''</p>| style="width: 400px;" | <p style="text-align:center;">Представление текста с помощью скелета из полиномиальной центральной линии и линий широты.</p>[[Файл:Polyprn textreg.png|300px|center]]| style="width: 400px;" | <p style="text-align:center;">ResNet50<ref name="resnet"/> + FPN<ref name="fpn"/> + RPN<ref name="rpn"/> + R-CNN<ref name="rcnn"/></p>|-|}

{| class="wikitable"|+ Сводная таблица моделей E2E|-! Модель !! Особенности !! Использованные методы|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''Mask TextSpotter (2018)'''</p>| style="width: 400px;" | <p style="text-align:center;">Одна из первых моделей, способных определить и распознать изогнутый текст. Представление области текста с помощью маски.</p>[[Файл:Mts_textreg.png|300px|center]]| style="width: 400px;" | <p style="text-align:center;">ResNet50<ref name="resnet"/> + RPN<ref name="rpn"/> + Fast R-CNN<ref name="rcnn"/></p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''CRAFTS (2020)'''</p>| style="width: 400px;" | <p style="text-align:center;">Состоит из трех слоев: детекции, коммуникации и распознавания. Слой коммуникации связывает слой детекции и распознавания и позволяет ошибке распознавания распространиться до слоя детекции. Текст представляется в трех видах: границы областей текста, границы символов и ориентированные границы символов.</p>[[Файл:CraftsText.png|300px|center]]| style="width: 400px;" | <p style="text-align:center;">ResNet50<ref name="resnet"/></p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''TextPerceptron (2020)'''</p>| style="width: 400px;" | <p style="text-align:center;">Shape Transform Module, использующий для выпрямления доверительные точки на границах текстовых областей. Взаимодействие модулей друг с другом в обе стороны.</p>[[Файл:Textperc textreg.png|300px|center]]| style="width: 400px;" | <p style="text-align:center;"> ResNet50<ref name="resnet"/> + FPN<ref name="fpn"/></p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''Boundary (2020)'''</p>| style="width: 400px;" | <p style="text-align:center;">Нанесение граничных точек при представлении текста. Использование граничных точек для выпрямления.</p>[[Файл:Tperc schBoundary.png|500px300px|center]]| style="width: 400px;" | <p style="text-align:center;">ResNet50<ref name="resnet"/> + FPN<ref name="fpn"/> + RPN<ref name="rpn"/> + CRNN<ref name="crnn"/></p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''MANGO (2021)'''</p>| style="width: 400px;" | <p style="text-align:center;">Однослойная архитектура, сочетающая детекцию и распознавание. Элементы распознавания частично присутствуют уже на этапе детекции. На этапе распознавания остался лишь легковесный инструмент вместо полноценного слоя.</p>| style="width: 400px;" | <p style="text-align:center;">ResNet50<ref name="resnet"/> + FPN<ref name="fpn"/></p>|-|}

{| class="wikitable"|+ Сводная таблица моделей распознавания|-! Модель !! Особенности !! Использованные методы|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''ESIR (2018)'''</p>| style="width: 400px;" | <p style="text-align:center;">Представление области текста с помощью скелета из полиномиальной центральной линии и дополнительных параметров (высота, ориентация). Итеративное выпрямление текста на основе просчитанных параметров.</p>[[fileФайл:Tperc archEsir line.png|800px300px|center]]| style="width: 400px;" | <p style="text-align:center;">ResNet53<ref name="resnet"/> + [[:Долгая_краткосрочная_память|BiLSTM]]</p>|-| style="background:#eaecf0;width:100px" | <p style="text-align:center;">'''MORAN (2019)'''</p>| style="width: 400px;" | <p style="text-align:center;">Разбиение изображения на части, определение смещения каждой части изображения. Выпрямление изображения на основе предсказанных смещений.</p>[[Файл:Moran morn.png|300px|center]]| style="width: 400px;" | <p style="text-align:center;">[[:Сверточные_нейронные_сети|CNN]] + [[:Долгая_краткосрочная_память|BiLSTM]] + GRU<ref name="gru"/></p>|-|}<br>

==== Точность: Результаты ==={| class="wikitable"|+ Общие результаты детекции на наборе данных Total-Text|-! Модель !! Precision !! Recall !! F-мера:*Total|-Text | style="background:#eaecf0;" | '''CRAFTS (DetectionE2E)''' || 89.5 || 85.4 || 87.4|-| style="background: #eaecf0;" | '''TextFuseNet''' || 89.0 || 85.2%3 || 87.1*Total|-Text | style="background:#eaecf0;" | '''Boundary (E2E, без словаря)''' || 88.9 || 85.0 || 87.0|-| style="background: 69#eaecf0;" | '''PolyPRNet''' || 88.1 || 85.3 || 86.7%*Total|-| style="background:#eaecf0;" | '''Text Perceptron (E2E, со словарём)''' || 88.8 || 81.8 || 85.2|-| style="background: #eaecf0;" | '''TextSnake''' || 82.7 || 74.5 || 78.4|-| style="background:#eaecf0;" | '''Mask TextSpotter (E2E)''' || 69.0 || 55.0 || 61.3%|-|}

{| class="wikitable"|+ Общие результаты E2E моделей на наборе данных Total-Text|-! Модель !! F-мера без словаря !! F-мера со словарем|-| style="background:#eaecf0;" | '''CRAFTS''' || 78.7 || -|-| style="background:#eaecf0;" | '''MANGO''' || 72.9 || 83.6|-| style= Краткое описание и особенности =="background:#eaecf0;" | '''Text Perceptron''' || 69.7 || 78.3|-| style="background:#eaecf0;" | '''Boundary''' || 65.0 || 76.1|-| style="background:#eaecf0;" | '''Mask TextSpotter''' || 52.9 || 71.8|-|}

{| class="wikitable"|+ Общие результаты моделей распознавания|-! Модель !! F-мера на наборе [[:Известные_наборы_данных#ICDAR|ICDAR]]'15<ref name="icdar15"/> !! F-мера на наборе данных CUTE80<ref name="cute"/>|-| style= Точность ==="background:#eaecf0;" | '''ESIR''' || 76.9 || 83.3|-| style="background:#eaecf0;" | '''MORAN''' || 68.8 || 77.4|-|}

=== Boundary (2019) =См. также ==*[[Задача нахождения объектов на изображении]]*[[Сверточные нейронные сети]]*[[Глубокое обучение]]*[[Распознавание текста на изображении]]*[[Рекуррентные нейронные сети]]*[[Компьютерное зрение]]

==Примечания == Краткое описание и особенности ====<references/>

==Источники информации == Архитектура ====* [https://github.com/cs-chan/Total-Text-Dataset TotalText Dataset GitHub page]* [https://github.com/Yuliang-Liu/Curve-Text-Detector SCUT-CTW1500 Dataset GitHub page]* [https://openaccess.thecvf.com/content_ECCV_2018/papers/Shangbang_Long_TextSnake_A_Flexible_ECCV_2018_paper.pdf TextSnake: A Flexible Representation for Detecting Text of Arbitrary Shapes, Shangbang Long, Jiaqiang Ruan, Wenjie Zhang, Xin He, Wenhao Wu, Cong Yao]* [https://www.ijcai.org/Proceedings/2020/0072.pdf TextFuseNet: Scene Text Detection with Richer Fused Features, Jian Ye, Zhe Chen, Juhua Liu, Bo Du]* [https://openaccess.thecvf.com/content/ACCV2020/papers/Shi_Accurate_Arbitrary-Shaped_Scene_Text_Detection_via_Iterative_Polynomial_Parameter_Regression_ACCV_2020_paper.pdf Accurate Arbitrary-Shaped Scene Text Detection via Iterative Polynomial Parameter Regression, Jiahao Shi, Long Chen, Feng Su]* [https://arxiv.org/pdf/1901.03003.pdf MORAN: A Multi-Object Rectified Attention Network for Scene Text Recognition, Canjie Luo, Lianwen Jin, Zenghui Sun]* [https://arxiv.org/pdf/1812.05824.pdf ESIR: End-to-end Scene Text Recognition via Iterative Image Rectification, Fangneng Zhan, Shijian Lu]* [https://arxiv.org/pdf/2007.09629.pdf Character Region Attention For Text Spotting, Youngmin Baek, Seung Shin, Jeonghun Baek, Sungrae Park, Junyeop Lee, Daehyun Nam, Hwalsuk Lee]* [https://arxiv.org/pdf/2012.04350.pdf MANGO: A Mask Attention Guided One-Stage Scene Text Spotter, Liang Qiao, Ying Chen, Zhanzhan Cheng, Xunlu Xu, Yi Niu, Shiliang Pu, Fei Wu]* [https://arxiv.org/pdf/2002.06820.pdf Text Perceptron: Towards End-to-End Arbitrary-Shaped Text Spotting, Liang Qiao, Sanli Tang, Zhanzhan Cheng, Yunlu Xu, Yi Niu, Shiliang Pu, Fei Wu]* [https://arxiv.org/pdf/1911.09550.pdf All You Need Is Boundary: Toward Arbitrary-Shaped Text Spotting, Hao Wang, Pu Lu, Hui Zhang, Mingkun Yang, Xiang Bai, Yongchao Xu, Mengchao He, Yongpan Wang Wenyu Liu]* [https://openaccess.thecvf.com/content_ECCV_2018/papers/Pengyuan_Lyu_Mask_TextSpotter_An_ECCV_2018_paper.pdf Mask TextSpotter: An End-to-End Trainable Neural Network for Spotting Text with Arbitrary Shapes, Pengyuan Lyu, Minghui Liao, Cong Yao, Wenhao Wu, Xiang Bai]