Ошибка: INFO hdfs.DFSClient: Could not complete ._COPYING_ retrying... - Hadoop

INFO hdfs.DFSClient: Could not complete /user/hduser/myinut/text1._COPYING_ retrying...

может возникнуть если на подчинённой машине HDFS использовалась раньше как на главной и не отформатирована -отформатируйте и всё заработает =)

hadoop 2.2.0 start-mapred.sh - нет файла - start-yarn.sh

use sbin/start-yarn.sh in 2.2.0 instead

используйте sbin/start-yarn.sh - для запуска map-reduce функционала вместо bin/start-mapred.sh в хадупе 2.2.0

hadoop 2.2.0 masters file

u can creae it like

/etc/masters

Форматировать файловую систему - Hadoop (HDFS)

Форматировать файловую систему в Hadoop (HDFS) можно командой:

bin/hadoop namenode -format

Ubuntu - поменять имя машины (компьютера) в командной строке

Открываем в командной строке и редактируем файл /etc/hosts командой:

sudo nano /etc/hosts

находим там адрес 127.0.0.1 и пишем для него имя (/заменяем, если что-то уже есть напротив 127.0.0.1) ,например - myhost , должно получиться:

127.0.0.1   myhost

Сохраняем файл.

Ну а теперь поменяем непосредственное имя машины:

Ubuntu Virtualbox - соединить две машины между собой (подключить) - общая сеть

Наладить соединение между двумя машинами (должен заработать ping)

У нас будут две машины:

192.168.0.1
192.168.0.2

Для обоих в настройках сети (если это виртуалки) включите "внутренняя сеть" - и убедитесь, что у эта сеть названа одинаково для обоих машин.

На обоих машинах запускаем терминал и выполняем команду:

sudo nano /etc/network/interfaces

Удаляем из указанного файла всё и пишем с учётом того, что имя интерфейса eth0:
для 1-ой машины:

Маршрут в Ubuntu - route - Ошибка: ifdown: interface eth0 not configured

Вываливается для /etc/network/interfaces такого вида:

auto lo
iface lo inet loopback

auto eth0
iface eth0 inet static
  address 192.168.0.1 
  netmask 255.255.255.0
  post-up /sbin/route add -net 192.168.0.2 netmask 255.255.255.0 gw 192.168.0.1

(при попытке перезагрузить интерфейс командой:

sudo ifdown eth0 && sudo ifup eth0

)
192.168.0.2 - вместо должен быть адрес сети то есть. например - 192.168.0.0

"РЕШЕНИЕ"

Файл удастся подгрузить если перепишите в таком порядке:

Ошибка: ssh connect to host - no route to host

Если возникает ошибка - выведем маршруты, о которых компьютер "знает":

netstat -rn

После чего надо добавить нужный маршрут

Logging (Log - лог) - хадуп вывод журнала, событий в консоль - отладка - Hadoop

Источники
stackoverflow.com/questions/12446379/how-to-write-java-log-file-using-the-logger-api-while-using-hadoop

ubuntu Настроить hosts (правка, внесение изменений) -- сопоставление домена сайта и ip адреса

Откроем файл, в котором содержутся строки, соотносящие имена узлов сети с ip-адресами командой:

sudo nano /etc/hosts

и добавьте туда необходимые строки, например, если содержимое файла было:

127.0.0.1       localhost
127.0.1.1       qwe-VirtualBox

и вам нужно связать с локальной машиной доменное имя mysite.loc, тогда должно стать так:

Pages

Subscribe to fkn+antitotal RSS