Bilim adamları sinir ağları için derin öğrenme yöntemini geliştiriyor

Robot hukuk danışmanı - Tamirci robot yılan balığı - Elon Musk'tan yapay zeka şirketi | Teknoloji (Haziran 2019).

Anonim

Ulusal Araştırmalar Nükleer Üniversitesi (MEPhI) (Rusya) Siber İstihbarat Sistemleri Enstitüsünden araştırmacılar kısa bir süre önce, semantik kodlama, görselleştirme ve veri tanıma süreçlerini optimize eden kısıtlı Boltzmann makinesi (bir sinir ağı) için yeni bir öğrenme modeli geliştirdiler. Bu araştırmanın sonuçları Optik Bellek ve Yapay Sinir Ağları dergisinde yayınlanmıştır.

Günümüzde, konvolüsyon, tekrarlayıcı ve otokodlayıcı ağlar gibi farklı mimarilere sahip derin sinir ağları giderek daha popüler bir araştırma alanı haline gelmektedir. Microsoft ve Google da dahil olmak üzere bir dizi yüksek teknoloji şirketi, akıllı sistemleri tasarlamak için derin sinir ağları kullanıyor.

Derin öğrenme sistemlerinde, özellik seçimi ve konfigürasyon süreçleri otomatiktir; bu, ağların kendi başlarına hiyerarşik özellik çıkarma için en etkili algoritmalar arasından seçim yapabileceği anlamına gelir. Derin öğrenme, tek bir optimizasyon algoritması kullanarak büyük örneklerin yardımıyla öğrenme ile karakterizedir. Tipik optimizasyon algoritmaları, tüm işlemlerin parametrelerini eşzamanlı olarak yapılandırır ve her bir nöral ağ parametresinin, sözde geri-yayılma yönteminin yardımıyla hata üzerindeki etkisini etkili bir şekilde tahmin eder.

"Nöral ağların kendi başlarına öğrenebilme yetenekleri en ilgi çekici özelliklerinden biridir" diyerek, Parlamenter Siber İstihbarat Sistemleri Enstitüsü profesörü Vladimir Golovko'yu açıkladı. “Biyolojik sistemler gibi, sinir ağları da kendilerini modelleyebilir, mümkün olan en iyi davranış modelini geliştirmeye çalışırlar.”

2006 yılında, nöral ağ eğitim alanı Geoffrey Hinton eğitim öncesi sinir ağları üzerine bir araştırma yazısı yayınladığında bir çığır açmıştır. Çok katmanlı sinir ağlarının, kısıtlı Boltzmann makinesinin yardımıyla bir katmanı tek bir seferde eğiterek ve ardından geri yayılım kullanarak ince ayar yaparak önceden eğitilebileceğini ifade etti. Bu ağlara derin inanç ağları veya DBN adı verildi.

Golovko, derin makine öğreniminin ana konularını ve paradigmalarını analiz etti ve kısıtlı Boltzmann makinesi için yeni bir öğrenme yöntemi önerdi. Araştırmacı, bu sinir ağının klasik eğitim kuralının, geliştirdiği yöntemin özel bir durumu olduğunu gösterdi.

"Amerikalı bilim adamları Minsky ve Papert, bir zamanlar desen sınıflandırması açısından, eşik aktivasyon fonksiyonuna sahip tek katmanlı algılayıcının doğrusal bir ayırma yüzeyini oluşturduğunu gösterdi, bu da 'münhasır' ya da 'problemi çözememesinin nedeni budur, ” Golovko kayıt edilmiş. "Bu, sinir ağlarının daha da geliştirilmesiyle ilgili karamsar sonuçlara yol açmıştır. Ancak, son ifade, bir eşik veya tekdüze sürekli aktivasyon fonksiyonu olan tek bir katman perceptronu için, örneğin bir sigmoid fonksiyonu için geçerlidir. fonksiyon, tek katman perceptron 'özel ya da' problemini çözebilir, çünkü iki düz çizgi yardımıyla sınıfların içine ve alanlarına bölünebilir. ”

Araştırma ayrıca, verilerin sıkıştırılması, görselleştirilmesi ve tanınması için derin sinir ağları kullanma ihtimalinin bir analizini de içeriyordu. Ayrıca Golovko, derin oto-birleştirici sinir ağlarının kullanılmasına dayanan semantik kodlamanın ya da karmaşanın uygulanmasına yeni bir yaklaşım önermiştir.

Bu derin öğrenme metodu, arama motorlarının sinir ağlarını eğitmek için yararlı olabilir, çünkü yazarlar, ilgili görüntüleri aramanın hızını artıracaktır.

Bu bulgular büyük bir pratik değere sahiptir: onlar zaten bilgisayar görüşü, konuşma tanıma ve biyoinformatik alanlarında uygulama bulmuşlardır.

menu
menu