Comments (6)
ApelSYN
commented on July 25, 2024
Комп нормальный, должно быть в районе 1c, может что-то не так поставилось, похоже что Вас прессинг идет на CPU, возможно забыли поправить в примере переменную
mode = "gpu"Напишите нам вывод запуска вот этого кода, чтоб понимать что у Вас все нормально с tf gpu:
import tensorflow as tf
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
c = tf.matmul(a, b)
print(sess.run(c))from nomeroff-net.
danilpan
commented on July 25, 2024
*Спасибо за ответ. Вот вывод после запуска Вашего кода:*
WARNING: Logging before flag parsing goes to stderr.
W0717 18:20:31.254466 139731632719680 module_wrapper.py:126] From
/home/server/.envs/tensorflow/lib/python3.6/site-packages/tensorflow_core/python/util/module_wrapper.py:153:
The name tf.Session is deprecated. Please use tf.compat.v1.Session instead.
2019-07-17 18:20:31.256368: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcuda.so.1
2019-07-17 18:20:31.275221: I
tensorflow/stream_executor/cuda/cuda_gpu_executor.cc:1006] successful NUMA
node read from SysFS had negative value (-1), but there must be at least
one NUMA node, so returning NUMA node zero
2019-07-17 18:20:31.275765: I
tensorflow/core/common_runtime/gpu/gpu_device.cc:1618] Found device 0 with
properties:
name: GeForce GTX 1080 major: 6 minor: 1 memoryClockRate(GHz): 1.7335
pciBusID: 0000:01:00.0
2019-07-17 18:20:31.275935: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcudart.so.10.0
2019-07-17 18:20:31.276757: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcublas.so.10.0
2019-07-17 18:20:31.277587: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcufft.so.10.0
2019-07-17 18:20:31.277756: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcurand.so.10.0
2019-07-17 18:20:31.279493: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcusolver.so.10.0
2019-07-17 18:20:31.280220: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcusparse.so.10.0
2019-07-17 18:20:31.282311: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcudnn.so.7
2019-07-17 18:20:31.282387: I
tensorflow/stream_executor/cuda/cuda_gpu_executor.cc:1006] successful NUMA
node read from SysFS had negative value (-1), but there must be at least
one NUMA node, so returning NUMA node zero
2019-07-17 18:20:31.282904: I
tensorflow/stream_executor/cuda/cuda_gpu_executor.cc:1006] successful NUMA
node read from SysFS had negative value (-1), but there must be at least
one NUMA node, so returning NUMA node zero
2019-07-17 18:20:31.283274: I
tensorflow/core/common_runtime/gpu/gpu_device.cc:1746] Adding visible gpu
devices: 0
2019-07-17 18:20:31.283297: I
tensorflow/stream_executor/platform/default/dso_loader.cc:44] Successfully
opened dynamic library libcudart.so.10.0
2019-07-17 18:20:31.351876: I
tensorflow/core/common_runtime/gpu/gpu_device.cc:1159] Device interconnect
StreamExecutor with strength 1 edge matrix:
2019-07-17 18:20:31.351910: I
tensorflow/core/common_runtime/gpu/gpu_device.cc:1165] 0
2019-07-17 18:20:31.351915: I
tensorflow/core/common_runtime/gpu/gpu_device.cc:1178] 0: N
2019-07-17 18:20:31.352104: I
tensorflow/stream_executor/cuda/cuda_gpu_executor.cc:1006] successful NUMA
node read from SysFS had negative value (-1), but there must be at least
one NUMA node, so returning NUMA node zero
2019-07-17 18:20:31.352470: I
tensorflow/stream_executor/cuda/cuda_gpu_executor.cc:1006] successful NUMA
node read from SysFS had negative value (-1), but there must be at least
one NUMA node, so returning NUMA node zero
2019-07-17 18:20:31.352790: I
tensorflow/stream_executor/cuda/cuda_gpu_executor.cc:1006] successful NUMA
node read from SysFS had negative value (-1), but there must be at least
one NUMA node, so returning NUMA node zero
2019-07-17 18:20:31.353220: I
tensorflow/core/common_runtime/gpu/gpu_device.cc:1304] Created TensorFlow
device (/job:localhost/replica:0/task:0/device:GPU:0 with 6856 MB memory)
-> physical GPU (device: 0, name: GeForce GTX 1080, pci bus id:
0000:01:00.0, compute capability: 6.1)
Device mapping:
/job:localhost/replica:0/task:0/device:GPU:0 -> device: 0, name: GeForce
GTX 1080, pci bus id: 0000:01:00.0, compute capability: 6.1
2019-07-17 18:20:31.354040: I
tensorflow/core/common_runtime/direct_session.cc:356] Device mapping:
/job:localhost/replica:0/task:0/device:GPU:0 -> device: 0, name: GeForce
GTX 1080, pci bus id: 0000:01:00.0, compute capability: 6.1
MatMul: (MatMul): /job:localhost/replica:0/task:0/device:GPU:0
2019-07-17 18:20:31.356179: I tensorflow/core/common_runtime/placer.cc:54]
MatMul: (MatMul)/job:localhost/replica:0/task:0/device:GPU:0
a: (Const): /job:localhost/replica:0/task:0/device:GPU:0
2019-07-17 18:20:31.356192: I tensorflow/core/common_runtime/placer.cc:54]
a: (Const)/job:localhost/replica:0/task:0/device:GPU:0
b: (Const): /job:localhost/replica:0/task:0/device:GPU:0
2019-07-17 18:20:31.356197: I tensorflow/core/common_runtime/placer.cc:54]
b: (Const)/job:localhost/replica:0/task:0/device:GPU:0
[[22. 28.]
[49. 64.]]
ср, 17 июл. 2019 г. в 18:17, Oleg Cherniy <[email protected]>:
… Комп нормальный, должно быть в районе 1c, может что-то не так поставилось,
похоже что Вас прессинг идет на CPU, возможно забыли поправить в примере
переменную
mode = "gpu"
Напишите нам вывод запуска вот этого кода, чтоб понимать что у Вас все
нормально с tf gpu:
import tensorflow as tf
sess = tf.Session(config=tf.ConfigProto(log_device_placement=True))
a = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[2, 3], name='a')
b = tf.constant([1.0, 2.0, 3.0, 4.0, 5.0, 6.0], shape=[3, 2], name='b')
c = tf.matmul(a, b)
print(sess.run(c))
—
You are receiving this because you authored the thread.
Reply to this email directly, view it on GitHub
<#29?email_source=notifications&email_token=AHSEIQJP4AHTAXB2QINPPJLP74EVTA5CNFSM4IEPQYQ2YY3PNVWWK3TUL52HS4DFVREXG43VMVBW63LNMVXHJKTDN5WW2ZLOORPWSZGOD2EAAII#issuecomment-512229409>,
or mute the thread
<https://github.com/notifications/unsubscribe-auth/AHSEIQIUEG4XJM2SGAGDFILP74EVTANCNFSM4IEPQYQQ>
.
from nomeroff-net.
ApelSYN
commented on July 25, 2024
С поддержкой GPU у Вас все нормально, мне кажется, я не совсем правильно понял Ваш вопрос.
Для того чтоб померять быстродействие нужно запустить вот этот скрипт runtime.ipynb
Если Вы запускаете пример "Hello World", то там быстродействие расходуется, в основном, на загрузку моделей и таким образом пользоваться нашей библиотекой неоптимально.
План решения проблемы следующий: пишем Web-приложение (например, мы используем tornado), грузим модели, и даем доступ к инфернсу модели через REST. Тогда можно получить быстродействие порядка ~1s/фото. Мы это уже обсуждали в этой ветке
from nomeroff-net.
danilpan
commented on July 25, 2024
Прочитав советы в той ветке, из написанного вывели что при каждом новом запуске скрипта у нас происходит новая загрузка моделей. Не могли бы подсказать как загрузить модельки только единожды? а ваше решение через REST сервис я не совсем понимаю как поможет
from nomeroff-net.
ApelSYN
commented on July 25, 2024
Прочитав советы в той ветке, из написанного вывели что при каждом новом запуске скрипта у нас происходит новая загрузка моделей. Не могли бы подсказать как загрузить модельки только единожды? а ваше решение через REST сервис я не совсем понимаю как поможет
Нужно сделать так чтоб скрипт запустился, загрузил модели и не приостанавливал свою работу. Такой скрипт можно оформить в виде сервиса (не обязательно REST-сервиса), также можно "общаться" со скриптом через сервис очередей, например RabbitMQ.
Чтоб вам было понятнее в режиме сервиса на вашем компьютере работает база данных, веб-сервер, memcache и т.д. Они не запускаются каждый раз когда вы к ним обращаетесь -- они стартуют и останавливается, как правило, вместе со стартом и остановкой компьютера.
from nomeroff-net.
danilpan
commented on July 25, 2024
Оказывается мы каждый раз при новой фотографии делали выгрузку модели, решили мы этому проблему с переносом этой части кода в начало запуска нашего софта и теперь время обработки у нас выходит ~0,5-1 сек
from nomeroff-net.
Related Issues (20)
- Вырезание номеров из фото HOT 5
- Dataset for Detection + OCR pipeline and comparison with Nomeroff-Net HOT 2
- ModuleNotFoundError: No module named 'modelhub_client' HOT 6
- Failed to run get-started-demo.py in docker container HOT 3
- обучать пользовательский набор данных HOT 7
- I have error about checkpoint HOT 5
- KeyError: 'pytorch-lightning_version' HOT 3
- How to train OCR model? HOT 3
- ImportError: cannot import name 'efficientnet_v2_s' from 'torchvision.models' HOT 1
- when change name of folder nomer_net code not work HOT 5
- Size of docker image HOT 1
- Multiline example doesn't return correct recognitions
- draw rectangle bbox on plate HOT 4
- Некорректное распознавание российских номер с регионом 799, 977 HOT 1
- Некорректное распознавание номеров в 3 строки
- Ошибка при установке пакета в req.txt HOT 1
- Columns and DataType Not Explicitly Set on line 157 of datasets_tools.py
- Error in nomeroff-net setup command: 'install_requires' HOT 1
- Label 'md' not in dict_keys && Label changed on default 'eu_ua_2015'
- Realtime Video performance / Benchmrk
Recommend Projects
-
React
A declarative, efficient, and flexible JavaScript library for building user interfaces.
-
Vue.js
🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.
-
Typescript
TypeScript is a superset of JavaScript that compiles to clean JavaScript output.
-
TensorFlow
An Open Source Machine Learning Framework for Everyone
-
Django
The Web framework for perfectionists with deadlines.
-
Laravel
A PHP framework for web artisans
-
D3
Bring data to life with SVG, Canvas and HTML. 📊📈🎉
-
Recommend Topics
-
javascript
JavaScript (JS) is a lightweight interpreted programming language with first-class functions.
-
web
Some thing interesting about web. New door for the world.
-
server
A server is a program made to process requests and deliver data to clients.
-
Machine learning
Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.
-
Visualization
Some thing interesting about visualization, use data art
-
Game
Some thing interesting about game, make everyone happy.
Recommend Org
-
Facebook
We are working to build community through open source technology. NB: members must have two-factor auth.
-
Microsoft
Open source projects and samples from Microsoft.
-
Google
Google ❤️ Open Source for everyone.
-
Alibaba
Alibaba Open Source for everyone
-
D3
Data-Driven Documents codes.
-
Tencent
China tencent open source team.
from nomeroff-net.