TensorFlow'da yeniyim. Son zamanlarda yükledim (Windows CPU sürümü) ve aşağıdaki mesajı aldım:

Tensorflow-1.4.0 başarıyla kuruldu tensorflow-tensorboard-0.4.0rc2

Sonra koşmaya çalıştığımda

import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')
sess = tf.Session()
sess.run(hello)
'Hello, TensorFlow!'
a = tf.constant(10)
b = tf.constant(32)
sess.run(a + b)
42
sess.close()

( https://github.com/tensorflow/tensorflow aracılığıyla buldum )

Aşağıdaki mesajı aldım:

2017-11-02 01: 56: 21.698935: IC: \ tf_jenkins \ home \ çalışma alanı \ rel-win \ M \ windows \ PY \ 36 \ tensorflow \ core \ platform \ cpu_feature_guard.cc: 137] CPU'nuz bunun talimatlarını destekliyor TensorFlow ikili dosyası kullanılmak üzere derlenmedi: AVX AVX2

Ama koştuğumda

import tensorflow as tf
hello = tf.constant('Hello, TensorFlow!')
sess = tf.Session()
print(sess.run(hello))

olması gerektiği gibi çalışıyordu ve çıktı Hello, TensorFlow!, bu da kurulumun gerçekten başarılı olduğunu gösteriyor, ancak yanlış olan başka bir şey var.

Sorunun ne olduğunu ve nasıl düzeltileceğini biliyor musunuz?

Bu uyarı ne hakkında?

Modern CPU'lar, düşük seviyeli talimatların bir sürü sağlamak itibaren vs. gibi uzantıları, SSE2, SSE4 AVX olarak bilinen olağan aritmetik ve mantık, yanında Wikipedia :

Gelişmiş Vektör Uzantıları ( AVX ), Mart 2008'de Intel tarafından önerilen Intel ve AMD mikroişlemciler için x86 komut kümesi mimarisinin uzantılarıdır ve ilk olarak Intel tarafından 2011'in 1. çeyreğinde Sandy Bridge işlemci gönderimi ve daha sonra AMD tarafından Bulldozer işlemci gönderimi ile desteklenir AVX yeni özellikler, yeni talimatlar ve yeni bir kodlama şeması sunar.

Özellikle AVX , doğrusal cebir hesaplamasını, yani nokta çarpımı, matris çarpımı, evrişim, vb. Hızlandıran, kaynaşmış çok birikimli (FMA) operasyonlar sunar, bu nedenle hemen hemen her makine öğrenimi eğitimi bu işlemlerin büyük bir kısmını içerir. AVX ve FMA'yı destekleyen bir CPU'da daha hızlı (% 300'e kadar). Uyarı, CPU'nuzun AVX'i (yaşasın!) Desteklediğini belirtir.

Burada vurgulamak istiyorum: her şey sadece CPU ile ilgili .

O zaman neden kullanılmıyor?

Tensorflow varsayılan dağıtımı SSE4.1 , SSE4.2, AVX, AVX2, FMA vb. CPU uzantıları olmadan oluşturulduğundan, varsayılan derlemeler (bunlardan gelenler pip install tensorflow) mümkün olduğunca çok CPU ile uyumlu olacak şekilde tasarlanmıştır. Başka bir argüman, bu uzantılarla bile CPU'nun GPU'dan çok daha yavaş olduğu ve orta ve büyük ölçekli makine öğrenme eğitiminin bir GPU'da gerçekleştirilmesi bekleniyor.

Ne yapmalısın?

GPU'nuz varsa, AVX desteğini önemsememelisiniz, çünkü en pahalı operasyonlar bir GPU cihazında gönderilir (açıkça ayarlanmadığı sürece). Bu durumda, bu uyarıyı

# Just disables the warning, doesn't enable AVX/FMA
import os
os.environ['TF_CPP_MIN_LOG_LEVEL'] = '2'

... veya export TF_CPP_MIN_LOG_LEVEL=2Unix'te olup olmadığınızı ayarlayarak . Tensorflow zaten iyi çalışıyor, ancak bu can sıkıcı uyarıları görmeyeceksiniz.

Eğer bir GPU yoksa ve mümkün olduğunca CPU kullanmak isteyen, sizin için optimize kaynaktan tensorflow inşa etmeliyiz senin CPU AVX AVX2 ile ve CPU destekleri onları eğer FMA sağladı. Bu tartışılan oldu bu soruya da bu GitHub konuyla . Tensorflow, bazel adı verilen özel bir inşa sistemi kullanıyor ve bunu yapmak önemsiz değil, ama kesinlikle yapılabilir. Bundan sonra, sadece uyarı kaybolmayacak, tensorflow performansı da iyileşmelidir.

Bu komutu kullanarak CPU ve işletim sisteminiz için tensorflow ikili dosyasını güncelleyin

pip install --ignore-installed --upgrade "Download URL"

Whl dosyasının indirme URL'sini burada bulabilirsiniz

https://github.com/lakshayg/tensorflow-build

GPU ile CPU optimizasyonu

GPU'nuz olsa bile, kaynağından TensorFlow'u yükleyerek elde edebileceğiniz performans kazançları vardır ve bunu eğitim ve çıkarım için kullanabilirsiniz. Bunun nedeni, bazı TF işlemlerinin yalnızca CPU uygulaması olması ve GPU'nuzda çalışamamasıdır.

Ayrıca, CPU'nuzu iyi kullanan bazı performans geliştirme ipuçları da vardır. TensorFlow'un performans kılavuzu aşağıdakileri önerir:

Giriş boru hattı işlemlerini CPU'ya yerleştirmek performansı önemli ölçüde artırabilir. CPU'yu giriş hattı için kullanmak, GPU'yu eğitime odaklanmak için serbest bırakır.

En iyi performans için, CPU'nuzu ve GPU'nuzu birlikte çalışmak üzere kullanmak için kodunuzu yazmalı ve varsa GPU'nuza dökmemelisiniz. TensorFlow ikili dosyalarınızın CPU'nuz için optimize edilmesini sağlamak saatlerce kaydedilmiş çalışma süresini ödeyebilir ve bunu bir kez yapmanız gerekir.

Windows için, AVX2 ile derlenen TensorFlow jantlar için resmi Intel MKL optimizasyonunu kontrol edebilirsiniz . Bu çözüm çıkarımımı ~ x3 hızlandırıyor.

conda install tensorflow-mkl

Windows için (f040225 sahibine teşekkürler), buraya gidin: "tf + python + cpu_instruction_extension" kombinasyonuna dayalı olarak ortamınız için URL'yi getirmek üzere https://github.com/fo40225/tensorflow-windows-wheel . Sonra yüklemek için bu cmd'yi kullanın:

pip install --ignore-installed --upgrade "URL"

"Dosya bir zip dosyası değil" hatasıyla karşılaşırsanız, .whl dosyasını yerel bilgisayarınıza indirin ve yüklemek için bu cmd'yi kullanın:

pip install --ignore-installed --upgrade /path/target.whl

Eğer tensorflow'un pip versiyonunu kullanırsanız, zaten derlenmiş demektir ve sadece kuruyorsunuz demektir. Temel olarak tensorflow-gpu yüklersiniz, ancak depodan indirip oluşturmaya çalıştığınızda, CPU AVX desteğiyle oluşturmalısınız. Eğer görmezden gelirseniz, cpu üzerinde her çalıştığınızda uyarı alırsınız.

Bunu düzeltmek için bulduğum en kolay yol, her şeyi kaldırmak ve ardından tensorflow-gpu'nun belirli bir sürümünü kurmaktır:

1. tensorflow'u kaldır:

    pip uninstall tensorflow

2. tensorflow-gpu yazılımını kaldırın: (yüklediğinizden emin olmasanız bile bunu çalıştırdığınızdan emin olun)

    pip uninstall tensorflow-gpu

3. Belirli bir tensorflow-gpu sürümünü yükleyin:

    pip install tensorflow-gpu==2.0.0
    pip install tensorflow_hub
    pip install tensorflow_datasets

Python dosyasına aşağıdaki kodu ekleyerek bunun işe yarayıp yaramadığını kontrol edebilirsiniz:

from __future__ import absolute_import, division, print_function, unicode_literals

import numpy as np

import tensorflow as tf
import tensorflow_hub as hub
import tensorflow_datasets as tfds

print("Version: ", tf.__version__)
print("Eager mode: ", tf.executing_eagerly())
print("Hub Version: ", hub.__version__)
print("GPU is", "available" if tf.config.experimental.list_physical_devices("GPU") else "NOT AVAILABLE")

Dosyayı çalıştırın ve çıktı şu şekilde olmalıdır:

Version:  2.0.0
Eager mode:  True
Hub Version:  0.7.0
GPU is available

Bu yardımcı olur umarım