Difference between revisions of "Cisco Nexus"

From HackerNet
Jump to: navigation, search
Line 1: Line 1:
Cisco Nexus switchar är designade för datacenter. De kör NX-OS som bygger på en nedbantad variant av Linux 2.6 kernel. De har stöd för tekniker som [[Nexus_FabricPath|FabricPath]] och [[Nexus_vPC|vPC]] och går att konfigurera med CLI (SSH/console) eller XML baserat på NETCONF. För virtuell instans se [[Nexus_VDC|Nexus VDC]] och för virtuell switch se [[Nexus_1000V|Nexus 1000V]] och Nexus 9000v (nedan).  
+
Cisco Nexus switchar är designade för datacenter. De kör NX-OS som bygger på en nedbantad variant av Linux kernel. De har stöd för tekniker som [[Nexus_FabricPath|FabricPath]] och [[Nexus_vPC|vPC]] och går att konfigurera med CLI (SSH/console) eller XML baserat på NETCONF. För virtuell instans se [[Nexus_VDC|Nexus VDC]] och för virtuell switch se [[Nexus_1000V|Nexus 1000V]] och Nexus 9000v (nedan).  
  
 
==Konfiguration==
 
==Konfiguration==
Line 31: Line 31:
  
 
'''Jumbo frames Nexus 5k''' <br/>
 
'''Jumbo frames Nexus 5k''' <br/>
Vill man vara någorlunda granulär kan man köra jumbo frames per vlan. Show interface visar inte rätt eftersom Nexus 5k inte har stöd för per interface MTU utan man får använda show queuing.
+
Vill man vara någorlunda granulär kan man köra jumbo frames per vlan. Show interface visar inte rätt eftersom Nexus 5k inte har stöd för per interface MTU utan man får använda show queuing. Se även [[Cisco_QoS#NX-OS|QoS]] för NX-OS för mer info.
 
  policy-map type network-qos JUMBO-MTU
 
  policy-map type network-qos JUMBO-MTU
 
   class type network-qos class-default
 
   class type network-qos class-default
Line 52: Line 52:
 
NX-OS har en on-device log file med de exec level configuration commands som körts.
 
NX-OS har en on-device log file med de exec level configuration commands som körts.
 
  show accounting log
 
  show accounting log
 +
 +
Visa historical event log för Layer 2 MAC-databasen.
 +
show system internal l2fm l2dbg macdb address 0011.2233.4455 vlan 100
  
 
Sätt switchen i maintenance mode.
 
Sätt switchen i maintenance mode.
Line 64: Line 67:
 
  show license usage
 
  show license usage
 
  show license host-id
 
  show license host-id
 +
 +
NX-OS har en inbyggd schemaläggare som kan användas för att köra kommandon vid valda tidpunkter.
 +
feature scheduler
 +
 +
scheduler job name CLEAR-STATISTICS
 +
  clear counters interface all
 +
  exit
 +
 +
scheduler schedule name EVERYDAY
 +
  job name CLEAR-STATISTICS
 +
  time daily 23:30
 +
  exit
 +
 +
show scheduler schedule
  
 
Integrated IDS
 
Integrated IDS
Line 80: Line 97:
 
  ip adjacency route distance 250
 
  ip adjacency route distance 250
 
  ipv6 adjacency route distance 250
 
  ipv6 adjacency route distance 250
 +
 +
===PTP===
 +
PTP är ett time synchronization protocol för noder i ett nätverk. Hardware timestamps används för att ge bättre noggrannhet än andra protokoll som t.ex. [[Cisco_Services#NTP|NTP]]. PTP är ett distribuerat protokoll och ett PTP-system kan bestå av en kombination av PTP och icke-PTP devices. Klockorna organiseras i en master-slave synchronization hierarki med en grandmaster clock på toppen som bestämmer referenstiden för hela systemet. PTP-processen består av två faser: etablera master-slave hierarkin och synka klockorna. PTP transporteras med UDP över multicast. PTP är inte supporterat på FEX interface.
 +
 +
feature ptp
 +
ptp source <ip-address>
 +
ptp domain 0    #Default
 +
 +
interface ethernet1/1
 +
  ptp
 +
 +
Verify
 +
show ptp brief
 +
show ptp clock
 +
show ptp port interface
  
 
==Fabric Extender==
 
==Fabric Extender==
FEXar är remote linjekort man sprider ut för att få fördelar från både ToR-kabeldragning och EoR-management. FEXar har INTE stöd för:
+
FEXar är remote linjekort man sprider ut i sitt DC för att få fördelar från både ToR-kabeldragning och EoR-management. Man kopplar in FEXar till Nexus-switchar eller UCS FI:s och sedan strömsätter man dem och associering görs automatiskt. För att upptäcka varandra använder FEX och parent switch Satellite Discovery Protocol (SDP). Får en FEX svar så startar den Satellite Registration Protocol (SRP). Därefter är FEXen registrerad med parent. Med hjälp av control VLAN 4042 och interna IP-adress 127.15.1.100 används Virtual Interface Configuration protocol för att konfa FEXens portar. SDP skickas periodvis och fungerar även som en keepalive mekanism. Om alla upplänkar går ner kommer FEXen att stänga alla sina interface, detta gör att dual homed servrar kan faila över till den andra FEXen.
 +
 
 +
Upplänkar på FEX kallas Fabric Interface. Server facing interfaces kallas Host Interface. Varje HIF har ett Virtual Interface inuti FEXen, detta får sin konfig ifrån parent switch. Varje VIF binds till ett Logical Interface i parent switch, detta har VLAN membership, ACL:er, etc. Mappningen mellan VIF och LIF görs med hjälp av en speciell tag i Ethernet framesen som går mellan FEX och parent. Denna logiska länk kallas VN-Link och taggen heter VNTag. Cisco VNTag har en egen ethertype och innehåller bl.a. Direction bit, Pointer bit, Looped bit, Version och Source och Destination Virtual Interface. Paket som kommer in på ett Host Interface skickas alltid till parent även om t.ex. destination är en annan port på samma FEX.
 +
 
 +
FEXar har INTE stöd för:
 
* [[Cisco_STP|STP]], (BPDUGuard enabled by default)
 
* [[Cisco_STP|STP]], (BPDUGuard enabled by default)
 
* [[Cisco_VTP|VTP]]
 
* [[Cisco_VTP|VTP]]
Line 95: Line 131:
  
 
'''Konfiguration''' <br/>
 
'''Konfiguration''' <br/>
Notera att dual-homed FEXes måste ha identisk konfiguration, dvs Nexus-switcharna ska ha matchande FEX-relaterad konfig. Detta kan antingen göras manuellt eller med en configuration synchronization service som finns inbyggd i NX-OS. Config sync kan dock ställa till med konstiga fel så fördelaktigt görs detta med något externt automationsverktyg.
+
Notera att dual-homed FEXes måste ha identisk konfiguration, dvs Nexus-switcharna ska ha matchande FEX-relaterad konfig. Detta kan antingen göras manuellt eller med en configuration synchronization service som finns inbyggd i NX-OS. Config sync kan dock ställa till med konstiga fel så fördelaktigt görs detta med något externt automationsverktyg. När man konfar en port-channel till FEXen (vilket man bör) måste '''pinning max-links 1''' vara satt samt att ''mode on'' måste köras eftersom FEX ej har stöd för LACP. MTU på FEXar styrs av network QoS policy så för att ändra MTU på FEX-portar måste även MTU på fabric portar ändras. Notera att FEXar kräver minst 1058 bytes annars misslyckas registreringen med parent switch. Giltiga FEX-nummer är 101-199.
  
 
Do not power on the FEX until all cabling and uplink port provisioning on the uplinked Nexus has been completed.
 
Do not power on the FEX until all cabling and uplink port provisioning on the uplinked Nexus has been completed.
Line 153: Line 189:
 
Verify
 
Verify
 
  show fex detail
 
  show fex detail
 +
show module fex
 
  show interface fex-fabric
 
  show interface fex-fabric
  
Line 191: Line 228:
  
 
==Portmode==
 
==Portmode==
I nexus 93180LC samt YC så kan man ställa olika portmodes.
+
På vissa nexus-modeller kan man ställa olika portmodes, t.ex. 93180LC samt YC. I LC modellen så kan du sätta 18x100g isället för 4x100g+28x40g, du kan också köra 6x100g+24x40g.
I LC modellen så kan du sätta 18x100g isället för 4x100g+28x40g, du kan också köra 6x100g+24x40g.
 
  
 
För att ställa in 18x100g så skriver du
 
För att ställa in 18x100g så skriver du
Line 218: Line 254:
 
   service-policy input COPP
 
   service-policy input COPP
  
 +
Detta kommando används istället för show mac address-table på Nexus 9000v.
 +
show system internal l2fwder mac
  
 
[[Category:Cisco]]
 
[[Category:Cisco]]

Revision as of 10:33, 21 August 2018

Cisco Nexus switchar är designade för datacenter. De kör NX-OS som bygger på en nedbantad variant av Linux kernel. De har stöd för tekniker som FabricPath och vPC och går att konfigurera med CLI (SSH/console) eller XML baserat på NETCONF. För virtuell instans se Nexus VDC och för virtuell switch se Nexus 1000V och Nexus 9000v (nedan).

Konfiguration

hostname Nexus-01
service password-encryption
no ip domain-lookup
user admin password bigdog role vdc-admin

Management

interface mgmt0
 ip address 10.0.0.10/24

vrf context management
 ip route 0.0.0.0/0 10.0.0.1 

Slå på loggmeddelanden i SSH terminal

terminal monitor

Tidszon

clock timezone CET 1 0 
clock summer-time CEST 5 Sunday March 02:00 5 Sunday October 02:00 60

Slå på features görs efter behov.

feature fex
feature lacp
feature vpc

Global

system default switchport shutdown
port-channel load-balance ethernet source-dest-port

Jumbo frames Nexus 5k
Vill man vara någorlunda granulär kan man köra jumbo frames per vlan. Show interface visar inte rätt eftersom Nexus 5k inte har stöd för per interface MTU utan man får använda show queuing. Se även QoS för NX-OS för mer info.

policy-map type network-qos JUMBO-MTU
 class type network-qos class-default
  mtu 9216
system qos
 service-policy type network-qos JUMBO-MTU

show queuing interface e1/1

Show

show module
show system resources
show cli history unformatted

Alias, exempel

cli alias name wr copy running-config startup-config
cli alias name diff show running diff
cli alias name changeto switchto vdc

NX-OS har en on-device log file med de exec level configuration commands som körts.

show accounting log

Visa historical event log för Layer 2 MAC-databasen.

show system internal l2fm l2dbg macdb address 0011.2233.4455 vlan 100

Sätt switchen i maintenance mode.

system mode maintenance [dont-generate-profile] 
show system mode
show config-profile

Licens

license grace-period

show license brief
show license usage
show license host-id

NX-OS har en inbyggd schemaläggare som kan användas för att köra kommandon vid valda tidpunkter.

feature scheduler

scheduler job name CLEAR-STATISTICS
 clear counters interface all
 exit

scheduler schedule name EVERYDAY
 job name CLEAR-STATISTICS
 time daily 23:30
 exit

show scheduler schedule

Integrated IDS

hardware ip verify

CoPP

control-plane 
 service-policy input copp-system-policy-scaled-l2

FIPS

fips mode enable
show fips status

Adjacency Manager
Nexus adjacency manager finns på den aktiva supervisorn och håller adjacency information för olika protokoll inklusive ARP, NDP och static mappings. Adjacency Manager populerar t.ex. IPv4 RIB:en med routes lärda från ARP. Dessa är host-routes och har Administrative Distance 250, detta går dock att ställa om.

ip adjacency route distance 250
ipv6 adjacency route distance 250

PTP

PTP är ett time synchronization protocol för noder i ett nätverk. Hardware timestamps används för att ge bättre noggrannhet än andra protokoll som t.ex. NTP. PTP är ett distribuerat protokoll och ett PTP-system kan bestå av en kombination av PTP och icke-PTP devices. Klockorna organiseras i en master-slave synchronization hierarki med en grandmaster clock på toppen som bestämmer referenstiden för hela systemet. PTP-processen består av två faser: etablera master-slave hierarkin och synka klockorna. PTP transporteras med UDP över multicast. PTP är inte supporterat på FEX interface.

feature ptp
ptp source <ip-address>
ptp domain 0    #Default

interface ethernet1/1
 ptp

Verify

show ptp brief
show ptp clock
show ptp port interface 

Fabric Extender

FEXar är remote linjekort man sprider ut i sitt DC för att få fördelar från både ToR-kabeldragning och EoR-management. Man kopplar in FEXar till Nexus-switchar eller UCS FI:s och sedan strömsätter man dem och associering görs automatiskt. För att upptäcka varandra använder FEX och parent switch Satellite Discovery Protocol (SDP). Får en FEX svar så startar den Satellite Registration Protocol (SRP). Därefter är FEXen registrerad med parent. Med hjälp av control VLAN 4042 och interna IP-adress 127.15.1.100 används Virtual Interface Configuration protocol för att konfa FEXens portar. SDP skickas periodvis och fungerar även som en keepalive mekanism. Om alla upplänkar går ner kommer FEXen att stänga alla sina interface, detta gör att dual homed servrar kan faila över till den andra FEXen.

Upplänkar på FEX kallas Fabric Interface. Server facing interfaces kallas Host Interface. Varje HIF har ett Virtual Interface inuti FEXen, detta får sin konfig ifrån parent switch. Varje VIF binds till ett Logical Interface i parent switch, detta har VLAN membership, ACL:er, etc. Mappningen mellan VIF och LIF görs med hjälp av en speciell tag i Ethernet framesen som går mellan FEX och parent. Denna logiska länk kallas VN-Link och taggen heter VNTag. Cisco VNTag har en egen ethertype och innehåller bl.a. Direction bit, Pointer bit, Looped bit, Version och Source och Destination Virtual Interface. Paket som kommer in på ett Host Interface skickas alltid till parent även om t.ex. destination är en annan port på samma FEX.

FEXar har INTE stöd för:

  • STP, (BPDUGuard enabled by default)
  • VTP
  • QinQ
  • CDP, (Upplänkar undantag)

Supported Topologies
Man kan koppla in FEXar single homed eller dual homed beroende på om det som ska ansluta till FEXarna ska vara single eller dual homed.

Cisco Nexus FEX.PNG


Konfiguration
Notera att dual-homed FEXes måste ha identisk konfiguration, dvs Nexus-switcharna ska ha matchande FEX-relaterad konfig. Detta kan antingen göras manuellt eller med en configuration synchronization service som finns inbyggd i NX-OS. Config sync kan dock ställa till med konstiga fel så fördelaktigt görs detta med något externt automationsverktyg. När man konfar en port-channel till FEXen (vilket man bör) måste pinning max-links 1 vara satt samt att mode on måste köras eftersom FEX ej har stöd för LACP. MTU på FEXar styrs av network QoS policy så för att ändra MTU på FEX-portar måste även MTU på fabric portar ändras. Notera att FEXar kräver minst 1058 bytes annars misslyckas registreringen med parent switch. Giltiga FEX-nummer är 101-199.

Do not power on the FEX until all cabling and uplink port provisioning on the uplinked Nexus has been completed.

Single homed FEX

fex 101
 pinning max-links 1
 description "FEX101"

interface port-channel101
 description FEX101
 switchport mode fex-fabric
 fex associate 101

interface Ethernet1/1
 description FEX101, Uplink 1
 switchport mode fex-fabric
 fex associate 101
 channel-group 101
 no shutdown

interface Ethernet1/2
 description FEX101, Uplink 2
 switchport mode fex-fabric
 fex associate 101
 channel-group 101
 no shutdown

Dual homed FEX

fex 111
 pinning max-links 1
 description "FEX111"

slot 111
 provision model N2K-C2248TP-E-1GE

interface port-channel111
 description FEX111 
 switchport mode fex-fabric
 fex associate 111
 vpc 111

interface Ethernet1/1
 description FEX111, Uplink 1
 switchport mode fex-fabric
 fex associate 111
 channel-group 111
 no shutdown

interface Ethernet1/2
 description FEX111, Uplink 3
 switchport mode fex-fabric
 fex associate 111
 channel-group 111
 no shutdown

Verify

show fex detail
show module fex
show interface fex-fabric

Port Profiles

En port profile används för att skapa en mall med fördefinierad konfiguration för portar. Istället för att manuellt kopiera befintlig portkonfiguration till en ny port kan istället profilen appliceras på porten för en färdig och enhetlig konfiguration.

Skapa port-profile

port-profile ACCESS
 switchport
 switchport mode access
 switchport access vlan 10
 spanning-tree port type edge
 spanning-tree bpdufilter enable
 spanning-tree bpduguard enable
 no shutdown
 state enabled

Applicera port-profile, kan t.ex. appliceras under port-channel eller ethernet-interface.

interface ethernet 1/1
 inherit port-profile ACCESS

Verifiering

show run int ethernet 1/1
show port-profile

Checkpoint

Nexusswitchar har en inbyggd funktion för Configuration Roll Back. Checkpoint-featuren låter admins spara konfigurationssnapshots. Sedan kan man rollbacka när man behöver.

Skapa checkpoint

checkpoint

Show checkpoints

show checkpoint summary

Diff

show diff rollback-patch checkpoint user-checkpoint-1 running-config

Rollback

rollback running-config checkpoint user-checkpoint-1

Delete

clear checkpoint database

Portmode

På vissa nexus-modeller kan man ställa olika portmodes, t.ex. 93180LC samt YC. I LC modellen så kan du sätta 18x100g isället för 4x100g+28x40g, du kan också köra 6x100g+24x40g.

För att ställa in 18x100g så skriver du

hardware profile portmode 18x100g 

För 6x100g+24x40g skriver du

hardware profile portmode 6x100g+24x40g

För 4x100g+28x40g skriver du

hardware profile portmode 4x100g+28x40g

Du måste sedan spara configen och starta om switchen för att detta skall börja gälla.

Nexus 9000v

Nexus 9000v Switch är en virtuell maskin som man kan använda för att testa NX-OS features. Nexus 9000v funkar t.ex. i EVE-NG.

Man måste lägga in i startup-config vilken image switchen ska boota ifrån. Här följer lite grundkonfig.

hostname N9K01
boot nxos bootflash:/nxos.7.0.3.I7.3.bin
feature lldp
terminal width 110
spanning-tree mode mst
line console
  exec-timeout 0

policy-map type control-plane COPP
control-plane
  service-policy input COPP

Detta kommando används istället för show mac address-table på Nexus 9000v.

show system internal l2fwder mac