1. Мультикаст это тоже Ethernet.
2. Правильней сказать - программа на u2 посредством UPNP перехватывает весь мультикаст с WAN-порта u1. Соответственно на "приставочный" порт u1 при этом ничего не попадает.
3. Можно выставить в провайдерскую сеть и u2 через тот же свитч что и приставку. При этом на его WAN-порту нужно включить DHCP-клиент (дабы он получил адрес в сети провайдера), в нём самом отключить DHCP-сервер, на внутреннем порту выставить адрес 192.168.1.2 (или любой другой свободный из подсети u1) и соединить LAN-порты u2 и u1. Тогда и приставка, и u2 будут иметь мультикаст непосредственно из сети провайдера, u1 будет занят исключительно раздачей интернета, а u2 исключительно ретранслировать мультикаст для приёмников внутри сети (причём внутренняя сеть у них будет общая). Естественно, придётся поправить адрес ретранслятора в приёмниках...
4. а) Входящий кабель от провайдера
всегда должен втыкаться в WAN-порт роутера и никак иначе; независимо от того, разделили вы этот кабель свитчом на несколько устройств или нет и пропустили ли его перед этим через другой роутер.
б) плохая идея, я бы сказал; но в принципе это возможно; если вы используете роутер в качестве свитча - DHCP-сервер в нём нужно отключать обязательно. И кто будет заниматься "раздачей интернетов", если u1 будет работать за простой свитч?..