сайт о программировании

Hadoop - web-интерфейс кластера - веб интерфейс

По-идее должен веб интерфейс должен располагать по адресу:

master:8088/cluster/apps/

Hadoop - подключение resource manager co slave

yarn-site,xml на управляемом (подчинённом - slave) компьютере должен содержать как минимум:

<configuration>

<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:8031</value>
</property>

</configuration>

Hadoop - Настройка кластера из Нескольких машин (два компьютера)

Друзья. ранее мы рассматривали (переводили) процесс настройки кластера в режиме одной машины (псевдопараллельный режим).

Здесь предполагается заметка на русском по поводу того как быстро настроить хадуп на двух машинах

[пока читайте источники] =)

Настроим файлы конфигурации:

Hadoop datanode и namenode не взаимодействуют на компьютерах кластера

Проверить число узлов в кластере можно так - если получается, что центральная машина видит не всё (как например здесь) - в
том случае следует попытаться найти проблему.

Проверяем:

Hadoop hosts файл (на master-машине) - datanode namenode нет подключения

Системный файл линуксе /etc/hosts выглядел так:

127.0.0.1       master
127.0.1.1       qwe-VirtualBox
192.168.0.1    master
192.168.0.2    slave

при таких настройках "мастерский" порт HDFS оказывался привязанным к адресу (127.0.0.1) ,который относится не является публичным адресу и служит для обращения интерфейса к самому себе (потому datanode рядовой машины не мог подключиться к управляющей машине) - потому надо было поправить ,на такое:

порт CLOSE_WAIT

состояние CLOSE_WAIT говорит, что противоположная сторона закрыла соединение, а TIME_WAIT - то что наша сторона закрыла его.

Семинар "Современные методы топологии и геометрии" Математический Факультет ВГУ. (координатор - Кунаковская О. В.)

[ Главная страница о семинаре здесь ]

ПРИМЕЧАНИЕ: (обновлено 27.02.2014)

назначено время проведения семинара - два дня в неделю:
  1. среда: 16-55
  2. суббота: 13-25

Сбор у деканата математического факультета ВГУ

Семинар "Современные методы топологии и геометрии"

Координатор: Кунаковская Ольга Вениаминовна (Математический факультет ВГУ)

Функциональный анализ - что это =)

Приведём цитаты из разных книг и учебников:

Функциональный анализ возник в результате взаимодействия и последующего обобщения на бесконечномерный случай
идей и методов математического анализа, геометрии и линейной алгебры. Современная математика немыслима без функцио-
нального анализа.

- Треногин А. В. "Функциональный анализ"

Ошибка (РЕШЕНИЕ) SSH connect to address port 22: Connection refused

ВНИМАНИЕ: в данном примере мы разрешаем доступ со всех хостов - а то угроза безопасности (если есть внешнее соединение)

debug1: Connecting to slave [192.168.0.2] port 22.
debug1: connect to address 192.168.0.2 port 22: Connection refused

Захожим в файл, который указывает с каких хостов подключаться можно а с каких нет (открываем его) командой:

sudo nano /etc/hosts.allow

По-умолчанию он выглядит как-то так:

hadoop log

2014-01-31 05:09:48,525 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting DataNode
STARTUP_MSG: host = master/127.0.0.1
STARTUP_MSG: args = []
STARTUP_MSG: version = 2.2.0

Pages

Subscribe to RSS - сайт о программировании