ТЕНДЕНЦІЇ РОЗВИТКУ МОДЕЛЕЙ ГЕНЕРАЦІЇ УКРАЇНСЬКОЇ МОВИ
DOI:
https://doi.org/10.33042/2522-1809-2024-3-184-10-15Ключові слова:
нейронна мережа, українська мова, машинне навчання, синтез мови, озвучування текстівАнотація
Стаття досліджує розвиток технологій генерації мови від моделей машинного навчання до рідких нейронних мереж для генерації текстів. Розглянуто проблеми навчання та шляхи їх вирішення як для моделей машинного навчання, так і нейронних мереж. Як результат, визначено етапи розробки нейронної мережі для генерації текстів українською мовою.
Посилання
DOU Моделі text-to-speech для синтезу української мови: як працюють, хто їх створює та де знайти [Electronic resource] – Regime of access: https://dou.ua/forums/topic/40194/, free (date of the application: 10.02.2024).
D. Suendermann, H. H¨oge, and A. Black, “Challenges in speech synthesis” Speech Technology, Boston: Springer – pp. 19–32, – 2010. DOI: 10.1007/978-0-387-73819-2_2
A. Iida, and N. Campbell, “Speech database design for a concatenative text-to-speech synthesis system for individuals with communication disorders,” International Journal of Speech Technology – vol. 6, – no. 4, – pp. 379–392 – 2023; DOI:10.1023/A:1025761017833.
A. Van Den Oord et al. “WaveNet: A generative model for raw audio,” SSW – 2016 – vol. 125 DOI:10.48550/arXiv.1609.03499
State Of The Art of Speech Synthesis at the End of May 2021 [Electronic resource] – Regime of access https://towardsdatascience.com/state-of-the-art-of-speech-synthesis-at-the-end-of-may-2021-6ace4fd512f2, free (date of the application: 13.02.2024)
M.M. Shatkovskyi Modeli kompiuternoho podannia ukrainskoho movlennia dlia problemy konkatenatyvnoho sehmentyvnoho syntezu Inzheneriia prohramnoho zabezpechennia № 3 (7) – 2011. C. 58-67.
ResearchGate H.i Murfi, T. Gowandi, G. Ardaneswari BERT-Based Combination of Convolutional and Recurrent Neural Network for Indonesian Sentiment Analysis 2022, DOI:10.48550/arXiv.2211.05273.
XLNet Embeddings (Large Cased) [Electronic resource] – Regime of access https://sparknlp.org/2021/07/07/xlnet_large_cased_en.html, free (date of the application: 15.02.2024)
T5-large [Electronic resource] – Regime of access https://huggingface.co/google-t5/t5-large, free (date of the application: 17.02.2024)
P. Banerjee, T. Gokhale, C. Baral Self-Supervised Test-Time Learning for Reading Comprehension – 2021, DOI:10.18653/v1/2021.naacl-main.95
Hakan Tekgul, ML Solutions Engineer Published March 16, 2023 Monitoring Text-Based Generative AI Models Using Metrics Like Bleu Score [Electronic resource] – Regime of access https://arize.com/blog-course/generative-ai-metrics-bleu-score/, free (date of the application: 18.02.2024)
O. Okozelsk Reservoir Computing for .NET (RCNet) [Electronic resource] – Regime of access: https://github.com/okozelsk/NET?tab=readme-ov-file#reservoir-computing-for-net-rcnet, free (date of the appli-cation: 18.02.2024).
R. Hasani, M.s Lechner, A. Amini, D. Rus, R. Grosu Liquid Time-constant Networks – 2020 – arXiv:2006.04439v4
##submission.downloads##
Опубліковано
Як цитувати
Номер
Розділ
Ліцензія
Автори, які публікуються у цьому збірнику, погоджуються з наступними умовами:
- Автори залишають за собою право на авторство своєї роботи та передають журналу право першої публікації цієї роботи на умовах ліцензії CC BY-NC-ND 4.0 (із Зазначенням Авторства – Некомерційна – Без Похідних 4.0 Міжнародна), котра дозволяє іншим особам вільно розповсюджувати опубліковану роботу з обов'язковим посиланням на авторів оригінальної роботи та першу публікацію роботи у цьому журналі.
- Автори мають право укладати самостійні додаткові угоди щодо неексклюзивного розповсюдження роботи у тому вигляді, в якому вона була опублікована цим журналом (наприклад, розміщувати роботу в електронному сховищі установи або публікувати у складі монографії), за умови збереження посилання на першу публікацію роботи у цьому журналі.
- Політика журналу дозволяє і заохочує розміщення авторами в мережі Інтернет (наприклад, у сховищах установ або на особистих веб-сайтах) рукопису роботи, як до подання цього рукопису до редакції, так і під час його редакційного опрацювання, оскільки це сприяє виникненню продуктивної наукової дискусії та позитивно позначається на оперативності та динаміці цитування опублікованої роботи (див. The Effect of Open Access).