Кластер Gentoo+Ubuntu

delvin 4 марта, 2016 - 09:59

Системное администрирование

Доброго всем!
Уважаемые коллеги, никому из Вас не приходилось строить "домашний" кластер?
Прочел статью http://cluster.linux-ekb.info/ubuntu.php, накатил на бубунте(основная машина - просто мощней) и на своей(gentoo) openmpi. Но, например, emerge напрочь отказывается собирать на двух машинах. Столько "ругани" я не читал со времен несовместимости gcc для более свежего ядра. Того нет, другого нет, версия не та.
Как пример: Ubuntu 14.04.3 x64 напрочь отказывается накатывать gcc x86_64-pc-linux-gnu-4.9.3, а webkit-gtk без этой версии не ставится. В бубунте gcc-4.8-base.
Что посоветуете? Может статьи хорошие, дельные(языки русский и английский - других не знаю). Выручайте пожалуйста. И опыт бесценный будет.

Для комментирования войдите или зарегистрируйтесь

Eсли просто нужна

Автор SysA, дата создания 4 марта, 2016 - 13:01.

Eсли просто нужна распределенная сборка - то вам сюда.
Кластер тут как бы не причем, это совсем другая песня.

Для комментирования войдите или зарегистрируйтесь

Прочел аннотацию. 1. GNU

Автор delvin, дата создания 4 марта, 2016 - 13:53.

Прочел аннотацию.

1. GNU make's parallel-build feature (-j)
2. distcc is now reasonably stable and can successfully compile the Linux kernel, rsync, KDE, GNOME (via GARNOME), Samba and Ethereal. distcc is nearly linearly scalable for small numbers of machines: for a typical case, three machines are 2.6 times faster than one.

Ага, тоесть на второй машине это тоже надо скомпилить. Но как это будет функционировать! Надо курить доки, а они там небогатые.
Спасибо, попробую.

—

Делай, что должен и сбудется, чему суждено!
Linux 4.9.0 #2 SMP x86_64 Intel(R) Core(TM) i3 CPU 530 @ 2.93GHz
Mem: 4 Gb, VGA compatible controller: NVIDIA Corporation G92 [GeForce 9800 GT]

Для комментирования войдите или зарегистрируйтесь

Зато: Unlike other

Автор SysA, дата создания 4 марта, 2016 - 15:26.

Зато: Unlike other distributed build systems, distcc does not require all machines to share a filesystem, have synchronized clocks, or to have the same libraries or header files installed. Machines can be running different operating systems, as long as they have compatible binary formats or cross-compilers.

И в Генте полно доков, т.к. основной инструмент! ;)

Для комментирования войдите или зарегистрируйтесь

А ничего, что Gentoo будет

Автор delvin, дата создания 4 марта, 2016 - 17:59.

А ничего, что Gentoo будет "ведомым"? Основные операции будут выполнятся на бубунте - комп мощней.

—

Для комментирования войдите или зарегистрируйтесь

Там нет понятия "ведомый" :)

Автор SysA, дата создания 4 марта, 2016 - 18:09.

И еще раз:

Machines can be running different operating systems

Там нет понятия "ведомый" - есть только приоритеты! :)

Для комментирования войдите или зарегистрируйтесь

Устанавливал и настраивал как

Автор delvin, дата создания 4 марта, 2016 - 21:30.

Устанавливал и настраивал как здесь https://wiki.gentoo.org/wiki/Distcc/ru и здесь https://habrahabr.ru/post/111324/
Получил вот это:

$ sudo /usr/bin/pump emerge -av webkit-gtk
/usr/bin/pump: error: pump mode requested, but distcc hosts list does not contain any hosts with ',cpp' option

На часах 15 минут первого ночи, разбираться продолжу завтра :)
А, да, без pump вот эта программа distccmon-gui никакой активности не показывает

—

Для комментирования войдите или зарегистрируйтесь

"Соловей тут бился, бился..."

Автор delvin, дата создания 7 марта, 2016 - 15:58.

"Соловей тут бился, бился..." ©
Вот что выдает после всех мытарств:

вход в каталог «/var/tmp/portage/net-analyzer/vnstat-1.13/work/vnstat-1.13/src»
x86_64-pc-linux-gnu-gcc -march=corei7 -O2 -pipe -fomit-frame-pointer   -c -o vnstat.o vnstat.c
distcc[16632] ERROR: nonblocking connect to 127.0.0.1:3632 failed: Connection refused
distcc[16632] Warning: failed to distribute vnstat.c to 127.0.0.1, running locally instead
x86_64-pc-linux-gnu-gcc -march=corei7 -O2 -pipe -fomit-frame-pointer   -c -o image.o image.c
distcc[16720] ERROR: compile image.c on 192.168.0.2 failed with exit code 110
distcc[16720] (dcc_build_somewhere) Warning: remote compilation of 'image.c' failed, retrying locally
distcc[16720] Warning: failed to distribute image.c to 192.168.0.2, running locally instead
distcc[16720] (dcc_please_send_email_after_investigation) Warning: remote compilation of 'image.c' failed, retried locally and got a different result.

"Ничего не понимаю" ©

—

Для комментирования войдите или зарегистрируйтесь

SysA написал(а): только

Автор delvin, дата создания 13 марта, 2016 - 05:25.

SysA написал(а):

только приоритеты! :)

Бесить начинает - все по ману делаю, а на "большом"(после обнов) не заводится:( никатил 15.10 бубунту(Жене так проще - похожа на винду и это главное).
Может все в порядке, но демон не заводится:(

—

Для комментирования войдите или зарегистрируйтесь

Может у меня в make.conf что

Автор delvin, дата создания 22 марта, 2016 - 07:06.

Может у меня в make.conf что не так?

—

Для комментирования войдите или зарегистрируйтесь

Спасибо, разобрался! После

Автор delvin, дата создания 30 марта, 2016 - 23:19.

Спасибо, разобрался!
После всех настроек компиляция все равно шла на моей.
Захожу по SSH на вторую, а там демон distcc не запущен. Пытаюсь запустить, а он мне и говорит:

Failed to start LSB: simple distributed compiler server.

О как!
Смотрю, что sysctl скажет:

systemctl status distcc
 distcc.service - LSB: simple distributed compiler server
   Loaded: loaded (/etc/init.d/distcc)

Ё!
А дай-ка, думаю, как в багрепорте попробую...

systemctl start network-online.target

И пошла родимая, пошла компиляция на двух машинах!!!
Правда это совсем не разгружает мою, но пока пишу, ядро уже собралось.
Спасибо огромное за пинки в нужном направлении!

—

Для комментирования войдите или зарегистрируйтесь

И снова здравствуйте! Опять

Автор delvin, дата создания 1 апреля, 2016 - 16:57.

И снова здравствуйте!
Опять не работает!
Имеем следующее:
distcc gcc -c main.c -o main.o
На выходе:

distcc[1496] (dcc_trace_version) distcc 3.2rc1 x86_64-pc-linux-gnu; built Mar  4 2016 23:38:38
distcc[1496] (dcc_recursion_safeguard) safeguard level=0
distcc[1496] (main) compiler name is "distcc"
distcc[1496] (dcc_scan_args) scanning arguments: gcc -c main.c -o main.o
distcc[1496] (dcc_scan_args) found input file "main.c"
distcc[1496] (dcc_scan_args) found object/output file "main.o"
distcc[1496] compile from main.c to main.o
distcc[1496] (dcc_parse_hosts_file) load hosts from /var/tmp/portage/.distcc//hosts
distcc[1496] (dcc_parse_hosts) found tcp token "192.168.0.2"
distcc[1496] (dcc_parse_hosts) found tcp token "192.168.0.10"
distcc[1496] (dcc_lock_host) got cpu lock on 192.168.0.2 slot 0 as fd3
distcc[1496] (dcc_lock_host) got cpu lock on localhost slot 0 as fd4
distcc[1496] (dcc_note_state) note state 3, file "(NULL)", host "localhost"
distcc[1496] (dcc_strip_dasho) result: gcc -c main.c
distcc[1496] (dcc_spawn_child) forking to execute: gcc -E main.c
distcc[1496] (dcc_spawn_child) child started as pid1497
distcc[1496] (dcc_strip_local_args) result: gcc -c main.c -o main.o
distcc[1496] exec on 192.168.0.2: gcc -c main.c -o main.o
distcc[1496] (dcc_note_state) note state 2, file "main.c", host "192.168.0.2"
distcc[1497] (dcc_new_pgrp) entered process group
distcc[1497] (dcc_increment_safeguard) setting safeguard: _DISTCC_SAFEGUARD=1
distcc[1496] (dcc_connect_by_name_real) connecting to 192.168.0.2 port 3632
distcc[1496] (dcc_connect_by_addr) started connecting to 192.168.0.2:3632
distcc[1496] (dcc_select_for_write) select for write on fd5
distcc[1496] ERROR: nonblocking connect to 192.168.0.2:3632 failed: Connection refused
distcc[1496] (dcc_unlock) release lock fd4
distcc[1496] (dcc_mark_timefile) mark /var/tmp/portage/.distcc//lock/backoff_tcp_192.168.0.2_3632_0
distcc[1496] (dcc_unlock) release lock fd3
distcc[1496] Warning: failed to distribute main.c to 192.168.0.2, running locally instead
distcc[1496] (dcc_lock_host) got cpu lock on localhost slot 0 as fd3
distcc[1496] exec on localhost: gcc -c main.c -o main.o
distcc[1496] (dcc_note_state) note state 5, file "main.c", host "localhost"
distcc[1496] (dcc_spawn_child) forking to execute: gcc -c main.c -o main.o
distcc[1496] (dcc_spawn_child) child started as pid1498
distcc[1498] (dcc_increment_safeguard) setting safeguard: _DISTCC_SAFEGUARD=1
distcc[1496] (dcc_collect_child) cc child 1498 terminated with status 0
distcc[1496] (dcc_collect_child) cc times: user 0.000000s, system 0.000000s, 0 minflt, 0 majflt
distcc[1496] compile main.c on localhost completed ok
distcc[1496] (dcc_unlock) release lock fd3
distcc[1496] elapsed compilation time 2.100782s
distcc[1496] (dcc_exit) exit: code 0; self: 0.000741 user 0.002760 sys; children: 0.021392 user 0.025074 sys
distcc[1496] (dcc_cleanup_tempfiles_inner) deleted 2 temporary files

При этом на втором компе:
systemctl status distcc.service

● distcc.service - LSB: simple distributed compiler server
   Loaded: loaded (/etc/init.d/distcc)
   Active: active (running) since Пт. 2016-04-01 12:49:25 KRAT; 6h ago
     Docs: man:systemd-sysv-generator(8)
  Process: 27173 ExecStop=/etc/init.d/distcc stop (code=exited, status=0/SUCCESS)
  Process: 27178 ExecStart=/etc/init.d/distcc start (code=exited, status=0/SUCCESS)
   CGroup: /system.slice/distcc.service
           ├─27184 /usr/bin/distccd --pid-file=/var/run/distccd.pid --log-file=/var/log/distccd.log --daemon --allow 12...
           ├─27185 /usr/bin/distccd --pid-file=/var/run/distccd.pid --log-file=/var/log/distccd.log --daemon --allow 12...
           ├─27214 /usr/bin/distccd --pid-file=/var/run/distccd.pid --log-file=/var/log/distccd.log --daemon --allow 12...
           ├─27291 /usr/bin/distccd --pid-file=/var/run/distccd.pid --log-file=/var/log/distccd.log --daemon --allow 12...
           └─27303 /usr/bin/distccd --pid-file=/var/run/distccd.pid --log-file=/var/log/distccd.log --daemon --allow 12...

апр. 01 12:49:25 xep systemd[1]: Starting LSB: simple distributed compiler server...
апр. 01 12:49:25 xep distcc[27178]: * Starting Distributed Compiler Daemon: distccd
апр. 01 12:49:25 xep distcc[27178]: ...done.
апр. 01 12:49:25 xep systemd[1]: Started LSB: simple distributed compiler server.
Hint: Some lines were ellipsized, use -l to show in full.

То есть все нормально!
Что ж такое? Что у меня опять не так?

—

Для комментирования войдите или зарегистрируйтесь

Застрелите меня

Автор delvin, дата создания 4 апреля, 2016 - 00:59.

pump distcc gcc -o main main.c

__________Using distcc-pump from /usr/bin
distcc[15072] (dcc_trace_version) distcc 3.2rc1 x86_64-pc-linux-gnu; built Mar  4 2016 23:38:38
distcc[15072] (dcc_recursion_safeguard) safeguard level=0
distcc[15072] (main) compiler name is "distcc"
distcc[15072] (dcc_parse_hosts_file) load hosts from /var/tmp/portage/.distcc//hosts
distcc[15072] (dcc_parse_hosts) found tcp token "192.168.0.2,cpp,lzo"
distcc[15072] (dcc_parse_options) got CPP option
distcc[15072] (dcc_parse_options) got LZO option
distcc[15072] (dcc_parse_hosts) found tcp token "192.168.0.10,cpp,lzo"
distcc[15072] (dcc_parse_options) got CPP option
distcc[15072] (dcc_parse_options) got LZO option
distcc[15072] (dcc_exit) exit: code 0; self: 0.000296 user 0.000584 sys; children: 0.000000 user 0.000000 sys
distcc[15072] (dcc_cleanup_tempfiles_inner) deleted 0 temporary files
__________Using 2 distcc servers in pump mode
distcc[15094] (dcc_trace_version) distcc 3.2rc1 x86_64-pc-linux-gnu; built Mar  4 2016 23:38:38
distcc[15094] (dcc_recursion_safeguard) safeguard level=0
distcc[15094] (main) compiler name is "distcc"
distcc[15094] (dcc_scan_args) scanning arguments: gcc -o main main.c
distcc[15094] (dcc_scan_args) found object/output file "main"
distcc[15094] (dcc_scan_args) found input file "main.c"
distcc[15094] (dcc_scan_args) compiler apparently called not for compile
distcc[15094] (dcc_lock_host) got cpu lock on localhost slot 0 as fd3
distcc[15094] exec on localhost: gcc -o main main.c
distcc[15094] (dcc_note_state) note state 5, file "main.c", host "localhost"
distcc[15094] (dcc_spawn_child) forking to execute: gcc -o main main.c
distcc[15094] (dcc_spawn_child) child started as pid15095
distcc[15095] (dcc_increment_safeguard) setting safeguard: _DISTCC_SAFEGUARD=1
distcc[15095] (dcc_trace_version) distcc 3.2rc1 x86_64-pc-linux-gnu; built Mar  4 2016 23:38:38
distcc[15095] (dcc_recursion_safeguard) safeguard: 1
distcc[15095] (dcc_recursion_safeguard) safeguard level=1
distcc[15095] (main) compiler name is "gcc"
distcc[15095] (dcc_set_path) setting PATH=/sbin:/bin:/usr/sbin:/usr/bin
distcc[15095] exec on localhost: gcc -o main main.c
distcc[15095] (dcc_note_state) note state 5, file "(NULL)", host "localhost"
distcc[15095] (dcc_spawn_child) forking to execute: gcc -o main main.c
distcc[15095] (dcc_spawn_child) child started as pid15096
distcc[15096] (dcc_increment_safeguard) setting safeguard: _DISTCC_SAFEGUARD=2
distcc[15095] (dcc_collect_child) cc child 15096 terminated with status 0
distcc[15095] (dcc_collect_child) cc times: user 0.000000s, system 0.000000s, 0 minflt, 0 majflt
distcc[15095] compile (null) on localhost completed ok
distcc[15095] elapsed compilation time 0.039462s
distcc[15095] (dcc_exit) exit: code 0; self: 0.000250 user 0.000511 sys; children: 0.027659 user 0.011850 sys
distcc[15095] (dcc_cleanup_tempfiles_inner) deleted 0 temporary files
distcc[15094] (dcc_collect_child) cc child 15095 terminated with status 0
distcc[15094] (dcc_collect_child) cc times: user 0.000000s, system 0.000000s, 0 minflt, 0 majflt
distcc[15094] compile main.c on localhost completed ok
distcc[15094] (dcc_unlock) release lock fd3
distcc[15094] elapsed compilation time 0.040505s
distcc[15094] (dcc_exit) exit: code 0; self: 0.000300 user 0.000679 sys; children: 0.027932 user 0.012474 sys
distcc[15094] (dcc_cleanup_tempfiles_inner) deleted 0 temporary files
__________Shutting down distcc-pump include server

При этом:
distccmon-text

   672  Compile       localhost[0]
 31435  Compile       localhost[0]

НИЧЕГО НЕ ПОНИМАЮ!

—

Для комментирования войдите или зарегистрируйтесь

Это не вопрос

Автор SysA, дата создания 6 апреля, 2016 - 12:37.

delvin написал(а):

НИЧЕГО НЕ ПОНИМАЮ!

Это не вопрос, а утверждение! ;)
Вопросы есть?

Для комментирования войдите или зарегистрируйтесь

Вопрос простой.

Автор delvin, дата создания 9 апреля, 2016 - 13:07.

Он на двух машинах компилит или локально?

—

Для комментирования войдите или зарегистрируйтесь

Настройки просмотра комментариев

Выберите нужный метод показа комментариев и нажмите "Сохранить установки".

Вход в аккаунт

Меню

Навигация

Обсуждаемые темы

Новые записи в блогах

Сейчас на сайте

Сбор новостей